Hinton、Bengio等22位巨头重磅联名！AI开始造AI，智能爆炸逼近

  新智元报道  

RSI留给人类的时间，可能只剩几个月了！

今天，一份注定改变人类命运的论文，在剑桥大学CASP平台上悄然发布。

这篇论文只有15页，但抛出的问题足以改写人类未来—

当AI自主研发彻底引爆『智能爆炸』，我们该怎么办？

提出这个问题的，是22位全球最顶尖的AI大佬。

其中包括：诺奖得主、AI教父Geoffrey Hinton，图灵奖得主Yoshua Bengio，再加上OpenAI首席科学家Jakub、Anthropic联创Jack Clark、Meta AI研究副总Dawn Song……

这份名单的分量，几乎等于AI界的「曼哈顿计划」核心成员悉数到场。

就连Hinton都坦白讲，「智能爆炸」出现这么久，直到最近，才让人真正感到危机迫近。

「现在很多顶级大佬都觉得，它可能随时都会发生」。

AI无限造AI，人类正在出局

在这篇长达数十页的研究中，团队披露了一组令人不寒而栗的产业现状。

那些站在金字塔尖的硅谷AI大厂内部，人类正在大步退居二线，机器正在迅速接管科研。

论文地址：https://casp.ac/reports/intelligence-explosion

去年年初，Anthropic公司内部由AI编写的代码比例，还只是个位数。

到了2026年5月，这个数字直接超过了80%。

更惊人的是，完全由AI自主完成、人类只做高级别监督的研发工作比例，在短短五个月内从1%飙升到了26%。

Anthropic内部运行着约3万个AI智能体，仅8月份就产生了超过10亿次决策。

OpenAI总裁Greg在2026年的AI Ascent大会上透露，AI写代码的比例已从2025年12月的约20%猛增至80%。

谷歌CEO劈柴也公开披露，谷歌内部由AI生成的新代码比例，从2024年的25%一路攀升至75%。

不仅如此，OpenAI明确表示，从模型训练、日常评估，再到构建安全攻防系统，其核心环节已被大量执行代码的自主Agent全面渗透接管。

另外就是，任务周期被极大地压缩了。  

2023年，最强的大模型也就能顶住几秒到几分钟的简单活儿。

但到了现在，AI Agent已能够独立完成人类资深研究员耗费数小时乃至数天，才能完成的复杂系统研发与调试任务。

更具象征意义的是，一个完全自动化的AI科研流水线，把提假设、搭实验、写代码到成稿全跑通了。

关键是，写出来的论文竟然真的通过了顶会严苛的同行评审！   

现在的进展曲线表明，到2028年中，需要人类顶级团队花费数月才能攻克的复杂AI研发项目，可能会被完全自动化。

一年变5周，AI点燃「智能爆炸」

这篇论文的核心论点，直指下一代大模型Scaling的根本逻辑转变。

过去，决定AI进步速度的核心瓶颈是算力和人类研究员的精力；而未来，核心变量正在切换为——「AI研发自动化率」。

于是，一个正反馈飞轮（Feedback Loop）出现了——

更聪明的AI → 编写更高效的算法与架构 → 自动化执行百万级科研实验 → 催生出再下一代更强的AI。

22人的作者团队，在附录中给出了一个惊人的测算：

如果前沿实验室将已有的推理算力全部拨给AI Agent执行研发任务，以当前的运行成本折算，其爆发出的研发吞吐量，相当于同时雇佣了200万到2000万名顶级人类科学家组成的「超级智囊团」！

哪怕是集结了全球智慧的OpenAI、谷歌和Anthropic，其顶尖核心研发人员加起来也不过数千人。

人类研究员需要吃饭、睡觉、讨论、写PPT、开周会，而上千万个数字科研Agent可以以千倍于人类的速度，日夜不停地迭代数以亿计的算法假设。   

论文中，严谨地引入了宏观创新经济学中的核心指标：科研努力回报率（r）。

• 如果r < 1，边际收益递减，技术进步会随着低垂果实的采摘而逐渐放缓；   
• 但根据多项AI子领域的历史进展估算，AI研发的r值中枢在1.2到1.9之间！   

只要r > 1，软件质量与研发劳动力的复合增长就会彻底击溃边际递减效应。

推演模型给出了一个让所有人后背发凉的推算结果：

在AI研发完全自动化的条件下，AI的技术进化速度将在短短17个月内飙升10倍！

这意味着，过去整整需要人类艰苦研发一整年才能取得的技术突破，未来将被极致压缩在仅仅5个星期之内！

当「年」缩短为「周」，当十年的跨度缩短为几个月，技术的演进成为了一面垂直冲天的绝壁。

这就是数学意义上真实的「智能爆炸」。  

Agent失控，人类极有可能灭绝

论文毫不客气地指出，一旦软件驱动的智能爆炸被引爆，人类文明将不可避免地撞上三堵高墙。  

首先，是能力增长彻底抛离社会适应节奏。

AI智能爆炸可能让生物攻击、网络攻击、劳动力市场剧变等风险提前数年甚至数十年到来。

留给人类协调、监管、适应的时间被极度压缩。

论文举了一个例子，AI可以同时加速病毒设计和疫苗研发，但病毒能自我复制和传播，而疫苗必须逐个生产、分发和接种——两者之间的时间差可能是致命的。

其次，人类可能彻底丧失对AI系统的控制权。

随着人类在AI研发中参与度越来越低，我们既失去了发现问题所需的机会，也丧失了修复问题所需的专业知识。

论文警告，在最极端的情况下，失去对AI系统的控制可能导致「人类被边缘化甚至灭绝」。

最后，权力制衡机制的彻底粉碎。智能爆炸可能让现有的权力制衡彻底失效。

面对这趟疾驰向悬崖且正在疯狂提速的列车，Hinton与22位顶流学者向全球各发出了最急迫的呼吁——

撕开研发内部的「不可见黑盒」，建立物理级熔断机制与受限沙盒，以及为适应智能爆炸的影响做好准备。

当造神者，变成机器自己

在人类历史的漫长长河中，工具之所以是工具，是因为它的迭代始终受到人类大脑算力和寿命的硬约束。

从石器到蒸汽机，从晶体管到超级计算机，人类始终是那个不可替代的「总设计师」。

但今天，由Geoffrey Hinton等一众先驱亲手点燃的这把火炬，正在以一种超乎所有人预料的方式脱轨——

造AI的人，正在变成AI自己。

「智能爆炸」已是一张已经排好日程的精密推演图。正如报告在末尾发出的沉重警示： 

一旦智能爆炸真正跨过临界点，留给人类建立防线的时间窗口，将会在极短的时间内彻底关闭。

技术狂飙的巨浪已至，这一次，站在浪潮之巅的我们，真的准备好了吗？

参考资料：

https://x.com/geoffreyhinton/status/2106122709285368061?s=20

https://casp.ac/reports/intelligence-explosion

编辑：桃子