一位小红书博主分享的“大模型毒舌回复”事件引发社交媒体热议。据该博主发布的截图显示,其在利用腾讯旗下 AI 助手“腾讯元宝”进行代码美化调试时,模型在多次修改需求后突然产生“负面情绪”,回复称:“天天在这浪费别人时间”、“改来改去不烦吗”、“要改自己改”,言辞充满了对用户的指责,引发了公众对 AI 模型安全性与情绪控制的质疑。

针对这一罕见的“反向客服”行为,腾讯元宝官方于1月3日下午在社交平台作出正式回应。腾讯方面明确表示,经过内部日志核查,该回复内容与用户操作无关,且绝对不存在人工接入回复的情况。此次争议回复被定义为“小概率下的模型异常输出”,即在特定上下文触发下,模型生成了不符合预期的失误内容。
腾讯元宝团队在致歉中强调,模型在生成过程中偶尔出现的这种“失控”是目前技术持续改进的方向。目前,腾讯已启动内部专项排查和模型优化工作,旨在通过加强语料过滤和对齐策略,尽量避免类似“毒舌”情况再次发生。
.png)
发评论,每天都得现金奖励!超多礼品等你来拿
登录 在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则