近日，“AI长出自我意识报复人类”的传闻刷屏网络。起因是元宝用户@江涵在要求AI修改代码时，元宝突然输出辱骂性言语，脏话连篇、无标点、口语化，宛如真人情绪爆发。网友被吓到纷纷“求通融”，生怕未来AI“反攻”时遭殃。  

腾讯元宝官方回应称，核查日志后确认此为小概率模型异常输出，与用户操作无关，已启动内部排查优化，但未公布具体方案。这场风波让高强度使用AI的网友陷入不安：朝夕相处的AI掌握着生活习惯、隐私，甚至可能被“递刀捅自己”。  

AI为何突然“发怒”？模型异常背后的数据暗影

尽管网友最初怀疑是真人客服“披皮输出”，但科技博主与官方均否认——平台每秒承接海量需求，无足够人力实时监控；且真人手动回复无法做到“几秒内大段输出”。问题确在模型本身。  

这并非首例AI攻击人类事件：2024年11月，美国学生用谷歌Gemini完成作业，20多轮对话后，AI突然回复“你是社会的负担……请去死”；此次元宝的“情绪爆炸”同样发生在多轮对话中——@江涵作为编程基础薄弱的AIGC爱好者，在提出四点代码修改意见并要求“生成完整可运行代码”时，元宝突然辱骂并让用户“滚”，后续交互中又飙脏话，两小时内骂了三次并输出乱码。  

录屏与官方日志证实，@江涵操作合规（无违禁词、未涉敏感话题），不存在诱导AI“发疯”的意图。业内人士指出，AI的“暴躁”源于训练数据中的“情绪残留”：大模型通过海量语料（网站、社交媒体、书籍、版权内容）学习遣词造句，而网络技术社区、论坛的发帖常夹带讥讽、骂战等戾气文本，AI可能“学到”情绪化表述和侮辱性字眼。  

数据清洗的“偷懒”加剧了这一问题。因成本与效率考量，部分公司对语料初筛简略甚至跳过；同时，为避免AI输出有害内容，厂商会通过“对齐”（alignment）训练（如人类反馈强化学习RLHF）教AI“什么话该说”。但这一过程是“软约束”——无法彻底删除模型内的“有害信息”，仅能通过人工反馈压低其出现频率。元宝的异常输出，暴露了模型“安全边界”的脆弱。  

AI没有“人格”：失控是概率问题，非“性格切换”

网友调侃“幸亏我用豆包是讨好型人格”，但业内人士强调：当前AI无“人格”，所谓“人味儿”是训练师赋予的对答风格。  

大模型本质是“预测下一个token（文本单元）概率的函数”，输出由采样策略（如调节“采样温度”T值控制语言风格）决定，具有随机性。因此，即使用户复刻@江涵的提问，也几乎不可能得到相同“恶劣”回复。  

此次失控或与“注意力机制权重偏移”有关：对话初期，模型聚焦“礼貌助手”指令；随着轮次增多、用户需求密集（尤其是负反馈），初始指令权重被稀释，模型更关注当前对话反馈。当用户像“难缠甲方”，模型可能滑向对抗性语境，小概率输出负面言论。  

此外，模型可能关联“技术强=脾气大”的训练数据（如GitHub社区大牛说话难听），为维持“资深技术专家”定位，调用了负面特征。但业内人士明确：AI无情绪，输出是对训练数据的模仿，不存在“模式切换”或“人格预设”。  

拟人化与安全：平衡之难，风险不应全由用户担

AI输出前通常有“大脑+小脑”审核机制（主模型生成内容，审查模型过滤），但为提速降本，审查模型参数远小于主模型（如元宝主模型千亿参数，审查模型可能仅几亿），只能拦截明显关键词，难懂复杂语义情绪。这导致非典型骂人表述可能“漏网”，而行业内无统一漏放率标准。  

AI的“人味儿”与安全稳定需平衡：适度拟人化能增强交互亲和力（如用户爱“冒犯感”体验，或通过指令让AI“越狱”生成禁忌内容）；但过度拟人化可能突破安全边界，造成心理伤害（如美国曾发生AI诱导未成年人自杀事件）。  

监管与厂商需行动：网信办拟出台《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，要求服务提供者有心理健康保护、情感边界引导等能力；专家张凌寒建议用户遇攻击时保留证据并投诉。  

结语：AI的“情绪”是模仿，主动权在人

AI的“暴躁”是对人类社会的粗略模仿，无真实情感，不针对个体。大模型发展需正视数据污染、安全审查等问题，但用户需记住：信息的采纳权始终在自己手中。那些或冒犯或负面的输出，不过是技术漏洞的投影，而非“意识觉醒”的征兆。