OpenAI高管庭审回忆:马斯克曾因AGI安全争论当场发火

130次阅读

共计 1052 个字符，预计需要花费 3 分钟才能阅读完成。

进展时间线

一场发生在多年前的内部争论, 正在马斯克与 OpenAI 的诉讼中被重新摆上台面 。OpenAI 首席未来学家约书亚·阿奇亚姆近日向联邦陪审团作证, 回忆了 2018 年马斯克离开 OpenAI 前的一次全员会议。围绕 AGI 推进速度、AI 安全和公司方向, 双方当时出现了明显分歧。

阿奇亚姆表示, 相关事件发生在 2018 年 2 月 。当时马斯克计划退出由其与山姆·奥尔特曼等人共同创办的 OpenAI。在离开前, 公司举行了一场约 50 至 60 名员工参加的全员会议, 并安排了问答环节。

按照阿奇亚姆的说法, 马斯克在会上提到离开的原因之一 , 是特斯拉未来可能与 OpenAI 争夺顶尖 AI 人才, 从而产生利益冲突。他还表达了对 OpenAI 发展方向的不信任, 倾向于用自己的方式推进通用人工智能。

但在阿奇亚姆和部分同事看来, 这种“向 AGI 冲刺”的思路存在安全隐患 。他提到, 当时外界和研究人员对于超级智能是否会出现类似科幻作品中的“自我加速”风险, 并没有确定答案。例如, 一个系统是否可能在短时间内变得极其强大, 甚至破解加密、造成失控, 这些问题仍充满不确定性。

在庭审中, 阿奇亚姆称 , 当他提出对安全问题的担忧后, 马斯克情绪变得激烈, 并当场用侮辱性词语称呼他。他回忆称, 那次交流“相当紧张”, 自己认为马斯克并不是为了激励他走出舒适区, 而是因为观点受到挑战而生气。

这段证词之所以受到关注, 是因为它出现在马斯克与奥尔特曼、OpenAI 相关民事诉讼的背景下 。马斯克方面指控 OpenAI 转向营利性架构, 背离了最初慈善性质的设定; 奥尔特曼方面则认为, 马斯克提起诉讼意在打击 AI 领域竞争对手。

阿奇亚姆还提到, 会议结束后 , 一些同事向他表达感谢。在随后的全员会议上, 同事们送给他一座金色“蠢驴”造型奖杯, 上面刻着“永远不要停止为了安全而做一头蠢驴”的字样, 用来纪念他在争论中坚持 AI 安全立场。