辛顿等22名学者论文讨论AI研发自动化

Geoffrey Hinton、Yoshua Bengio、Andrew Barto以及OpenAI首席科学家Jakub Pachocki等22名研究者共同撰写论文《What if automating AI R&D triggers an intelligence explosion?》，聚焦AI自动化参与AI研发后，是否可能形成递归自我改进，并将原本以年计的技术进步压缩到更短周期。论文认为，智能爆炸并不一定要等到AI先成为超级智能才会发生，只要AI研发自动化跨过关键门槛，反馈循环就可能提前启动。

论文回顾了I.J. Good在1965年提出的“智能爆炸”设想：如果机器能设计更强的机器，新机器又继续参与下一轮改进，能力增长就可能自我加速。作者指出，今天的核心问题已不只是AI能否改代码或调参数，而是能否进入提出假设、设计实验、执行实验、分析结果、定位失败并调整路线的完整AI研发链条。

文中引用的实验室内部数据称，2025年1月AI生成的获批代码占比仍为低个位数，到2026年5月已超过80%。在较高层次人类监督下，Claude可自主承担的内部AI研发工作比例也从2026年3月约1%升至同年8月26%。截至2026年9月，OpenAI内部AI系统已能经常完成原本人类员工需要数天的研发任务。作者强调，这不等于AI已完全无人监督完成研究，但任务长度和自主性正在提升。

论文进一步讨论了“有效研发劳动力”的放大效应。若AI Agent达到顶级AI研究员水平，且推理成本接近当前前沿模型，一家领先AI公司的现有算力理论上可支撑至少数百万名顶级人类研究员等价的AI研发劳动力。与人类研究者不同，AI研究员可以复制、全天运行，并随底层模型升级而同步获得新能力，从而绕开人才培养周期的限制。

不过作者也指出，更多AI研究员不会自动带来等比例研发加速，因为科研存在边际收益递减、实验资源竞争和好点子变少等问题。论文用“研究投入回报”变量r衡量新增研究 effort 对技术进步的推动，引用相关历史研究给出约1.2至1.9的中心估计。在全面自动化、回报维持且算力和数据未成为短期瓶颈的假设下，AI技术进步速度可能在约1.5年内提高10倍，相当于今天一年进步未来约5周完成。

论文的基调并非认定智能爆炸已经发生。作者认为，AI研发自动化要触发爆炸式加速，还需满足系统足够可靠、能长期自主工作、确实提升研发产出，并让新成果反过来增强AI研发能力等条件。现实约束也很明显：GPU和数据中心不能像软件一样复制，前沿模型训练仍需数月；高质量数据增长有限，合成数据和可验证任务能否持续提供训练信号仍未确定；芯片制造、模型训练和基础设施建设也存在难以无限并行的物理时间成本。