亚马逊CEO向美政府举报Anthropic模型存安全漏洞,引发出口管制

一场围绕 AI 模型安全性的风波正在科技界发酵。据多家媒体报道 , 亚马逊 CEO 安迪·贾西(Andy Jassy) 可能正是导致 Anthropic 两款模型被全球下线的关键举报人。这一事件不仅牵涉到两家公司的微妙关系, 更引发了关于 AI 安全审查与政府监管之间复杂互动的广泛讨论。

📌 事件概览: 从内部担忧到政府禁令

上周五 (6 月 13 日),Anthropic 突然宣布切断其两款模型——Claude Fable 5 和 Mythos 5——的全球访问权限。紧接着, 美国政府对这些模型实施了出口管制禁令。而据《华尔街日报》报道, 亚马逊 CEO 贾西此前曾向财政部长斯科特·贝森特(Scott Bessent) 及其他政府官员表示, 亚马逊研究人员利用 Anthropic 的 Claude Fable 5 获取了可能用于网络攻击的信息。这一举报被认为是推动政府采取行动的关键因素。

从已披露信息看, 这一变化更值得关注的, 不只是表面动作本身, 还包括其对后续行业节奏、用户预期和市场竞争的连锁影响。

🔍 核心信息: 多方角力与不同说辞

围绕此事, 各方说法存在微妙差异:

• 亚马逊方面:公司发言人表示, 政府向企业咨询潜在安全风险“并不罕见”, 但拒绝透露具体讨论细节。亚马逊是 Anthropic 的主要投资方, 双方关系密切。
• 前 AI 官员戴维·萨克斯 (David Sacks): 他声称, 一位“高度可信的、同时是 Anthropic 和美国政府双方信任的合作伙伴”提供了关于模型越狱 (jailbreak) 的信息。萨克斯还透露, 政府要求 Anthropic CEO 达里奥·阿莫迪 (Dario Amodei) 修复越狱漏洞或下架模型, 但遭到阿莫迪拒绝。
• Anthropic 方面:目前尚未对萨克斯的指控做出公开回应。公司此前曾强调其安全承诺, 但此次事件显得颇为被动。

💡 行业观察: 安全举报背后的复杂利益链

这一事件凸显了 AI 安全治理中的几个关键矛盾:

• 投资者与监管者双重角色:亚马逊既是 Anthropic 的投资者, 又向政府举报其产品安全问题。这种利益交织的关系引发了关于动机的猜测——是出于真实安全担忧, 还是商业竞争策略?
• 自愿下架与强制禁令:Anthropic 主动切断访问权限, 但政府仍追加了出口管制。这表明在 AI 安全问题上, 企业自愿行动已不足以满足监管要求。
• 政府内部信息流动:从贾西向财政部长汇报, 到最终出口管制落地, 显示出政府高层对 AI 安全的高度关注, 以及企业与政府间非正式沟通渠道的活跃。

📊 总结: 安全信任危机待解

目前,Anthropic 面临的不只是两款模型被禁的短期损失,更是其安全信誉的长期考验。作为一家以“负责任 AI”为标签的公司, 被主要投资者举报模型存在安全漏洞, 无疑会动摇外界对其安全承诺的信任。与此同时, 亚马逊的角色也引发争议——它是否在利用其投资关系获取商业情报? 未来, 类似事件可能促使监管机构进一步明确 AI 安全举报的规则与边界, 防止各方利益冲突损害行业健康发展。