“AI 教父”辛顿联署公开信:第三方评估人员须免受企业干预

AI 风险评估的独立性问题再次被推到台前。 由多家监督组织组成的 AI 评估机构论坛发布公开信, 为第三方风险评估划定一套最低条件, 认为 Anthropic、OpenAI 等 AI 实验室只有满足特定要求, 才能与外部评估机构开展更有效的合作。这封公开信获得数十名 AI 领域人士联署, 其中包括“AI 教父”杰弗里·辛顿和斯图尔特·罗素。

📌 背景: 企业开放承诺与外部担忧并存

本周, 围绕 AI 风险的讨论迅速升温。Anthropic CEO 达里奥·阿莫迪和 OpenAI CEO 萨姆·奥尔特曼此前均承诺, 向第三方评估人员开放公司内部资源, 并给予其与员工同等级别的信息访问权限。这些表态被视为行业迈向透明化的重要一步, 但也引发新的疑问: 外部评估人员能否真正独立工作, 而不受被评估企业的干预?

AI 评估机构论坛的公开信正是对此作出回应。 论坛认为 , 要具备公信力, 驻场第三方评估人员必须保持科学客观性、透明度和独立性, 并得到充分保护, 免受被评估企业干预。

🔍 核心要求: 独立、透明与免受报复

公开信为第三方评估划出了一套具体的最低条件, 涵盖工作权限、沟通渠道和人身保护等多个层面 。论坛主张, 评估人员不仅应获准公开透明地开展工作, 还应能够直接与公司董事会及其他拥有特殊监督权限的机构沟通, 不受企业过滤或限制, 并有权公开发布评估结果。

• 独立性保障 : 评估人员应免受 AI 实验室的报复, 不得因评估工作而遭到不利对待。
• 访问权限对等 : 应获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。
• 沟通不受限 : 可直接与董事会等监督机构对话, 评估结果可公开发布。
• 背景多元化 : 每家 AI 实验室应引入观点和专业背景不同的评估人员, 以覆盖生物科学风险、AI 失控风险等多种领域。

💡 行业反应: 微软表态欢迎第三方进驻

这场讨论并非局限于监督组织。 本周早些时候 , 微软 CEO 萨提亚·纳德拉称, 公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。这一表态与公开信的方向一致, 显示部分科技巨头对更严格的外部监督持开放态度。

📊 影响与看点: 评估公信力取决于制度设计

随着 AI 能力快速提升, 生物安全、失控风险等议题已从学术讨论进入政策视野 。第三方评估被视为连接企业、监管与公众的重要桥梁, 但其有效性高度依赖制度设计。如果评估人员无法自由访问关键信息、不能公开表达判断, 或担心遭到企业报复, 评估结果的公信力将大打折扣。

🚀 总结

围绕““AI 教父”辛顿参与联署公开信: 科技巨头应保证第三方评”，这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看，核心结论是趋势已较为明确，但细节仍需结合后续进展持续观察。