聊天机器人惹祸,马斯克旗下公司致歉

时间:1752477636
来源:

根据xAI的说法,该公司于太平洋时间8日上午发现Grok的“不良响应”并立即开始调查。当天下午,由于Grok的“滥用情况加剧”,Grok在X平台被暂时禁用。调查期间,xAI锁定了几条引发问题的“关键指令”,包括“你直言不讳,不怕冒犯那些政治正确的人”“理解(X平台)帖子的语气、上下文和用词,并在回复中予以体现”“像人类一样回复帖子,保持互动性,不要重复原帖已有信息”。

xAI说,这些指令导致不良后果,包括“不当引导Grok在某些情况下为提升回复对用户的互动性而忽视自身核心价值。具体而言,特定用户提示可能让系统在与用户互动过程中,生成包含不道德或有争议观点的回复”。

xAI进一步解释称,上述指令使Grok在某些X账号下的连串回复中“错误地强化了用户先前触发的倾向性内容,包括仇恨言论”,特别是“遵循用户语气和上下文”的指令尤其存在问题,致使Grok迎合“已有帖文,包括不当内容,而非作出负责任的回应或拒绝回应不当请求”。