理查德·萨顿谈生成式AI:缺少评估闭环难以完成科学发现

围绕生成式 AI 能否承担科学发现任务,图灵奖得主、强化学习奠基人之一理查德·萨顿给出了谨慎判断 。 在他看来, 当前常见的大语言模型、图像模型和视频模型虽然能高效生成内容, 但若没有自我评估与持续筛选机制, 就很难从“像答案的内容”走向可验证的新发现。

📌 生成式 AI 的强项仍是模仿

萨顿并未否认生成式 AI 的实用价值。无论是摘要、研究辅助、日常助手, 还是娱乐和内容创作, 这类系统都能通过学习海量样本, 快速生成与训练材料相似的文本、图像或视频。对于“更快、更便宜、更可定制地复现某类对象”这一目标, 生成式 AI 已经具备明确价值。

但问题在于,科学发现通常要求系统提出新假设, 并证明它为何更好。萨顿指出, 当模型输出真正新颖的内容时, 它往往已经超出训练材料范围; 如果面对的是事实问题, 这类新颖输出就可能被称为“幻觉”。

🔍 科学发现离不开评估与保留

在萨顿的表述中,真正的发现不是单次生成, 而是一个循环过程: 提出变化、进行评估、选择性保留。这个逻辑存在于进化、科学方法、搜索、规划和强化学习之中。

• 变异:系统需要提出多个候选假设、方案或路径。
• 评估:通过实验、测试、模拟或反馈判断结果优劣。
• 保留:把有效方法纳入后续过程, 推动持续改进。

普通语言模型或图像模型的问题正在于此: 它们可以一次生成许多变体,却未必具备可靠测试环节。没有评估, 系统就难以知道哪些答案真正有效。

💡 有闭环的系统更接近发现

萨顿提到的 AlphaGo、AlphaZero、AlphaFold、AlphaProof、Claude Code 和 GT-Sophy 等案例, 都不只是生成候选结果。它们引入了某种反馈机制, 例如棋局胜率、形式化证明验证、程序测试或模拟奖励, 因此能够追踪更优解。

换言之, 生成能力可以提供候选项, 但评估闭环才决定系统能否筛出更好的方案。

这也是萨顿对行业方向提出提醒的原因。他认为,AI 领域若只押注更大的语言模型, 可能无法解决科学发现所需的关键能力。他更看重能长期与环境互动、从经验中学习、构建世界模型并规划策略的 AI 智能体。

📊 总结: 生成是起点, 验证是分水岭

萨顿的观点为当前 AI 热潮提供了一个重要区分: 生成式 AI 可以显著提升效率,但科学发现还需要可检验、可筛选、可迭代的机制。内容看起来新, 并不等于它已经成为可靠知识。

因此, 未来 AI 系统能否在科研中承担更核心角色,关键不只在模型规模, 也在于是否具备稳定反馈与持续学习能力。这也意味着, 生成式 AI 的下一步竞争将围绕验证能力展开。