谷歌研究院论文提出反幻觉新思路:让大模型先学会“我不确定”

大模型“幻觉”问题正在迎来一种新的解释框架。一篇由谷歌研究院与特拉维夫大学联合完成、被 ICML 2026 Position Track 接收的论文提出: 与其继续追求让 AI 记住一切, 不如让模型更准确地判断并表达自己到底有多确定。

📌 从“补知识”到“识别不确定”: 反幻觉路线出现转向

过去, 行业治理大模型幻觉大致有两种办法: 一是通过更多训练数据和更大模型规模, 让 AI 覆盖更多事实; 二是在模型不确定时要求其拒答。前者永远会遇到知识边界, 后者则会带来明显的可用性损失。

论文将这种代价称为“实用性税”: 为了降低错误率,系统可能不得不拒绝大量原本可以正确回答的问题。也就是说, 模型看似更谨慎了, 但用户获得有效信息的机会也被压缩。

🔍 关键不只是校准, 而是判别力

论文特别区分了两个概念:校准 与判别力 。 校准关注模型整体置信度是否与整体正确率匹配; 判别力则关注模型能否在每一道具体问题上分辨“我可能答对”还是“我可能答错”。

这一区别很重要。一个模型即便整体置信度看起来合理, 也可能无法判断哪条回答值得相信。论文梳理文献后指出, 当前主流大模型在知识问答中的判别力仍不足以支撑低成本拒答策略。在模拟场景中, 如果基础错误率为 25%, 要把错误率降至 5%, 可能需要牺牲相当比例的正确回答。

💡 论文重新定义幻觉: 错误之外, 还有“伪装确定”

这种定义带来了新的目标:忠实不确定性。也就是让模型外部语言中的确信程度, 与其内部状态中的不确定性相匹配。比如, 当模型内部对同一问题反复采样得到的答案并不稳定时, 它就不应给出斩钉截铁的表述, 而应提示用户该答案存在不确定性。

• 过去的目标: 尽量消灭错误答案。
• 新的重点: 让模型诚实表达自己的把握程度。
• 前后变化: 从追求“全知模型”, 转向建设“知道自己不知道”的模型。

📊 Agent 时代, 元认知会影响工具使用

论文还将这一问题延伸到 AI Agent 场景。接入搜索、数据库和外部工具后, 模型并不会自动变可靠, 因为它还需要判断: 什么时候该搜索、搜索结果是否可信、外部信息与内部判断冲突时应如何取舍。

如果缺少元认知能力,Agent 可能出现工具滥用: 本来不需要查询的问题也反复搜索, 既降低效率, 也可能引入噪音。相反, 具备元认知控制层的系统, 才有机会更合理地调度工具, 把“我知道”“我需要查证”“我查到了但仍不确定”区分开来。

🚀 真正落地仍有难题

围绕“推翻主流治幻觉思路: 元认知, 才是大模型破幻觉的全新解法”，这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看，核心结论是趋势已较为明确，但细节仍需结合后续进展持续观察。