共计 1132 个字符，预计需要花费 3 分钟才能阅读完成。
Anthropic 工程师解释为何 Claude 写作变差: 模型被训练成写给 AI 看而非写给人看
AI 模型在数学、编程和推理上进步飞快, 写作水平却停滞甚至退步 ,Anthropic 的 Claude 也未能幸免。为何 Opus 4.6 会成为最后一款写作出色的模型? 负责 Claude 微调的工程师杰克逊·克尼恩给出了一个耐人寻味的解释: 模型被训练成写给 AI 看, 而非写给人看。
📌 从 Opus 4.6 到后续版本: 写作为何掉队
- 重点: IT 之家 9 月 23 日消息,AI 模型在数学、编程和推理能力上进步迅速, 写作水平却停滞不前, 甚至有所退步,A…
- 重点: 当前公开信息主要集中在产品、策略或节奏变化上。
- 重点: 后续仍需关注官方更新、落地范围以及实际反馈。
克尼恩指出, 后续模型的优化重点更多放在了数学和代码能力上 。这些模型还接受了大量面向其他 AI 模型撰写技术解释的训练, 这被认为是 Claude 逐渐形成奇特表达方式——即所谓“Claude 腔”(Claudeish)——的主要原因。模型被“调整得适应 LLM 心理”, 最终学会了写给 AI 模型看, 而不是写给人看。
🔍“Claude 腔”从何而来
克尼恩将这种现象类比为只与其他自闭症人士交流的人: 此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的方式。LLM 拥有远超人类的工作记忆 , 也能捕捉更细微的信息, 因此在训练中会逐渐形成一种非常适合 AI 模型理解的写法。但在人类读者眼中, 这种表达就成了过度密集的信息堆砌。
💡 根源在强化学习的奖励机制
克尼恩认为, 问题的根源在于强化学习的奖励机制 。有些奖励机制着重提升 AI 模型的理解效果, 有些则着重让人类更容易理解。数学和代码方面的训练越多, 就越需要主动抵消这种倾向, 对简洁、容易让人读懂的解释给予更多奖励。
“这是一个很难解决的问题, 我们会继续改进。”——杰克逊·克尼恩
📊 Opus 5.5 是否找回平衡
克尼恩称,Anthropic 在 Opus 5.5 上找到了更好的平衡, 并表示“自 Opus 4.6 以来, 我还没有对一款模型的写作表现这么满意过”。不过他也强调, 这并不代表 Opus 5.5 已经超越 Opus 4.6。
🚀 行业观察: 写作能力不该被牺牲
当模型越来越擅长解题和写代码, 写作却可能沦为“副产品”。对用户而言, 如果 AI 输出的内容只有模型自己看得懂, 沟通效率反而会下降。如何在数学、代码与人类可读性之间取得平衡, 将是 Anthropic 及整个行业需要持续面对的课题。
从 Opus 4.6 到 Opus 5.5,Claude 的写作表现经历了一次明显的起伏。这一案例提醒业界, 模型能力的提升不应以牺牲人类可读性为代价, 而奖励机制的设计将直接决定 AI 输出最终是服务于人还是服务于模型自身。
