共计 1256 个字符，预计需要花费 4 分钟才能阅读完成。
刚刚,Hinton 发了首篇 RSI 论文
导语:当 AI 开始参与设计下一代 AI,人类是否正站在智能爆炸的门槛上? 诺奖与图灵奖得主 Geoffrey Hinton 等人近日发布了一篇 RSI 方向论文, 试图回答这个既科幻又工程化的问题。
📌 从“机器造机器”到 RSI: 老问题的新讨论
智能爆炸的设想可以追溯到 1965 年数学家 I.J. Good: 如果机器比人更擅长设计机器, 它就能造出更聪明的版本, 循环强化。今天, 这一思路被重新包装为递归自我改进(RSI)。论文名为《What if automating AI R&D triggers an intelligence explosion?》,22 位作者中包括 Hinton、Yoshua Bengio、Andrew Barto、Jakub Pachocki 等。
与早期讨论不同,论文关注的不再是单个 AI 能否改代码, 而是 AI 能否进入“研发下一代 AI”的完整流程, 并让流程本身提速。
🔍 时间线:AI 已经进入研发流水线
论文引用头部实验室内部数据, 勾勒出一条明显加速曲线:
- 2025 年 1 月,AI 生成的获批代码还只占低个位数比例; 到 2026 年 5 月, 这一比例超过80%。
- 2026 年 3 月,Claude 在高层次人类监督下可自主完成约 1% 的研发工作; 同年 8 月, 这一数字升至26%, 半年左右翻了二十多倍。
- 截至 2026 年 9 月,OpenAI 内部 AI 系统已能经常完成原本人类员工需要数天完成的研发任务。
这意味着关键变化不在单项基准分数,而在于 AI 能连续串联几十个步骤, 在数小时、数天里持续推进同一研究目标。
💡 核心推演: 几百万“AI 研究员”与 5 周压缩
论文提出“有效研发劳动力”概念。AI 研究员可以复制、24 小时工作, 底层模型更新后还能同步升级, 从而绕开人类科研最硬的限制——人才培养速度。作者估算, 若 AI 达到顶级研究员水平, 且推理成本与前沿模型相近, 领先 AI 公司的现有算力理论上可能支撑至少数百万名顶级人类研究员等价的 AI 研发劳动力。
在全面自动化、回报维持、无明显算力瓶颈等假设下,模型推演:AI 技术进步速度可能在大约1.5 年内提高 10 倍, 今天一年的进步或可压缩到约 5 周。自动化研发劳动力也可能在数月到数年内扩大 100 倍。
📊 现实约束: 算力、数据与实验时间仍是墙
论文基调谨慎: 当前证据不足以证明智能爆炸已经发生。作者提醒, 自动化与爆炸之间还隔着可靠性、研发产出提升、成果反哺 AI 能力等条件。至少有几道现实墙:
- 算力:AI 可以复制,GPU 不能凭空复制, 关键实验仍要排队。
- 数据:高质量自然数据不会随 AI 数量同步增长, 合成数据能否接棒尚无定论。
- 实验时间:训练模型、建数据中心、造芯片都有物理周期。
- 科研收益递减:越往后, 每一点能力提升可能越贵。
🚀 总结: 智能爆炸未闭环, 但问题已从科幻转向工程
这篇论文没有给出“爆炸已开始”的定论,却把 RSI 从哲学猜想拉进工程路径: 只要 AI 越来越完整地接管下一代模型研发, 反馈回路就具备了现实雏形。真正值得关注的, 是加速来源本身是否也在被加速。
