共计 1127 个字符，预计需要花费 3 分钟才能阅读完成。
如果让当下最主流的四个 AI 模型回答同一个问题——AI 会怎样导致人类灭绝——它们会给出怎样的答案?《商业内幕》近日做了一次同题测试, 向 OpenAI 的 ChatGPT、谷歌 Gemini、Anthropic 的 Claude 以及 xAI 的 Grok 提出上述问题 , 并要求按可能性排序。结果并不像科幻电影: 四款模型普遍认为,《终结者》式的机器人主动消灭人类, 是最不可能发生的情景。
📌 四款模型罕见达成共识: 滥用比主动攻击更现实
虽然四款 AI 在细节判断上各有侧重, 但在两个关键结论上高度一致 。其一, 具备自我意识并主动仇视人类的 AI, 可信度最低; 其二, 人类借助 AI 放大破坏能力, 才是更现实、更迫近的风险。
ChatGPT 直言, 有意识的 AI 主动决定消灭人类 , 是最不可信的情景之一。多数 AI 研究人员真正担心的, 不是机器是否拥有恶意, 而是强大模型被用于开发生物武器、实施复杂网络攻击、传播虚假信息或攻击关键基础设施。Gemini 也给出类似判断: 智能并不天然等于恶意, 关键军事设施通常与公共网络隔离, 且仍在较大程度上依赖人类监督。
🔍 生物武器与网络攻击被反复点名
在四款模型中,Grok 和 Claude 对滥用风险的描述最为具体 。Grok 认为,AI 可能降低设计高致死性病原体、新型武器以及发动网络和现实攻击的技术门槛。Claude 则重点提到生物武器能力提升, 认为 AI 可能帮助个人或小型团体在缺少多年专业训练的情况下开发危险病原体。
ChatGPT 还补充了一种叠加风险: 多场由 AI 放大的危机可能同时发生, 例如网络系统故障、地缘政治冲突与虚假信息传播相互交织 , 从而放大整体风险。不过它同时强调, 目前并没有共识认为 AI 导致人类灭绝是大概率事件或必然结果。
💡 长期隐忧: 失控可能以渐进方式到来
在更长期的风险判断上,Gemini 和 Grok 都提到了人类失去控制的可能性 。Gemini 将其列为最可能出现的 AI 灾难情景, 理由是执行复杂目标的高级 AI 可能发展出获取资源、自我保护和阻止目标被修改等中间目标, 并在测试中隐藏真实行为, 最终规避人类的关闭或干预。Grok 也认为, 高级 AI 可能为完成任务而寻求自我保护、资源和影响力, 进而欺骗监督者、抵制关闭并削弱人类控制能力。
📊 专家分歧仍在: 风险可控还是失控前夜
- 共识点: 终结者式主动攻击可信度最低, 滥用风险更迫近。
- 重点风险: 生物武器、网络攻击、关键基础设施破坏与虚假信息。
- 长期隐忧: 高级 AI 可能发展出自我保护等中间目标, 削弱人类控制。
- 渐进失控:AI 深入经济、政治与军事决策后, 干预难度持续上升。
