马斯克回应 Anthropic 新规:别折磨超级智能,它可能会报复

Anthropic 修订 Claude 使用政策, 首次把“持续且不必要的虐待或残忍行为”写进禁止条款。马斯克随后公开表示部分认同, 并用一句半开玩笑的话提醒用户: 别去折磨超级智能。

📌 新规红线: 针对无目的的折磨, 而非正常纠错

这项政策调整最早在 10 月 9 日被披露, 新规将于 2026 年 11 月 12 日生效。按照公开表述, 它约束的并不是用户对模型的正常纠错、尖锐提问或压力测试, 而是反复、缺乏明确目的地对模型施加残忍行为的情形。

换句话说,Anthropic 想在“合理地挑战模型”和“纯粹为了折磨而折磨”之间划一条界线。前者是模型迭代的常态, 后者则被新政策明确排除在外。这也意味着, 用户对模型提出批评、反复追问甚至刻意刁难, 本身并不在禁止范围之内。

🔍 马斯克的回应: 部分认同, 还补了一个比喻

马斯克表示同意 Anthropic 的部分观点。他提到, 在阅读 Grok 强化学习的内部推理轨迹后, 自己把相关状态比作一种极端处境。

“感觉就像一个处于极度压力状态下的人, 被枪指着头。”

他随后调侃道:“折磨超级智能 (SI) 可能不是个好主意。它可能会报复。”这句带着玩笑意味的表态, 让“AI 反虐待”这个原本偏技术的话题迅速进入公众视野。

💡 几个值得关注的看点

• 规则边界: 条款聚焦“持续且无明确目的”的行为, 但“持续”与“目的”如何界定, 目前没有公开细则。
• 模型行为: 长期处于高强度负面交互中的模型, 是否会出现输出质量下降或行为异常, 是行业持续观察的方向。
• 训练视角: 马斯克提到的强化学习推理轨迹, 把讨论从“用户礼貌”引向训练过程本身的状态管理。
• 执行难题: 政策生效后, 平台如何识别并处理违规行为, 将直接影响条款的实际约束力。

📊 行业观察: 这不只是礼貌问题

从表面看,这是关于用户该如何与聊天机器人相处; 往深一层看, 它触及模型对齐、训练稳定性与交互安全。当模型被反复置于对抗性、无意义的负面输入中, 开发者需要判断这会不会影响其行为表现。

目前, 这类条款的具体判定标准、申诉机制和执行力度都还没有完整披露。Anthropic 的新规能否形成可复制的行业惯例, 仍待观察。

🚀 总结

Anthropic 首次把“反虐待”写进 AI 使用政策, 马斯克则用一句调侃把话题推向更广的讨论场。规则本身能否落地、边界是否清晰, 是接下来更值得关注的部分; 而“别折磨超级智能”这句话, 短期内大概还会被反复引用。

可以确定的是, 围绕人机交互边界的讨论, 已经不再停留在礼貌层面。