这个星期，一场原本局限于人工智能安全研究者内部的“末日概率”讨论，突然在公众视野中彻底破圈。

对普通人而言，这类讨论此前听起来更像是一种抽象的哲学思辨：给人工智能可能导致人类灭绝的风险打一个百分比。

但这一次，具体数字本身带来了冲击：10%、20%，有时甚至更高，被直接安到了“人工智能可能引发灾难”这件事上。

一封辞职信引发的连锁反应

这场风波的导火索，是一篇发布在社交平台X上的辞职声明。

曾先后任职于OpenAI与Anthropic的研究员雅各布·考克松，在这篇获得超过一亿次浏览的帖子中，指责前沿实验室正在拿人类的生命做赌注。

他写道，正在打造人工智能的人们，内心深处真的相信这项技术可能在本十年结束前害死所有人，这绝非营销噱头。

他还提到，如果不加约束，到明年年底，最激进的一些风险情景就可能已经彻底失控。

真正让这场讨论迅速升级的，是Anthropic对齐科学团队负责人埃文·胡宾格随后的公开表态。

他在回应考克松时写道，考克松说得没错，业内确实真心相信人工智能有可能杀死所有人。

胡宾格明确表示，这是他个人的判断，而非公司官方立场：他认为在未来十年内，人工智能导致人类灭绝的概率超过10%。

他同时承认，Anthropic目前还没有一套明确方案，能够确保未来的超级智能始终处于人类可控范围之内，公司在这方面也并未明显走在正确轨道上。

一场早已存在、如今才被广泛听见的争论

事实上，胡宾格所表达的担忧，多年来一直在人工智能领域最具影响力的人物中间流传。

被誉为“AI教父”、诺贝尔奖得主杰弗里·辛顿此前曾估计，人工智能导致人类灭绝的概率大约在10%到20%之间。

埃隆·马斯克给出的数字甚至高达20%。

Anthropic首席执行官达里奥·阿莫代伊此前也曾向媒体表示，事情“真正、真正搞砸”的概率约为25%。

这场争论之所以在本周突然“破防”，一定程度上也与时机有关：胡宾格的表态恰逢Anthropic筹备一场估值可能高达2万亿美元的上市之前几周，因此也有观点认为，这更像是一次严重的公关失误，甚至被解读为某种刻意的“恐惧营销”。

与考克松几乎同时发声的，还有此前离开谷歌DeepMind的研究员亚历克斯·特纳，他在6月辞职时也曾表示，许多人工智能研究者相信自己正在打造某种可能杀死地球上所有人的东西，而阻止这一切原本正是他的日常本职工作。

Anthropic另一名负责“可扩展监督”方向的研究员塞缪尔·马克斯也表达了类似看法，他认为在前沿实验室内部，职位越高、对相关风险的担忧往往也越深。

并非所有人都认同这套叙事

不过，把当前的人工智能系统本身，与未来可能出现的超级智能区分开来，同样是这场讨论中的一条重要分界线。

胡宾格本人也明确指出，按照Anthropic最新一份风险评估报告的结论，目前已经投入使用的模型风险等级仍然偏低。

他真正忧心的，是通过“递归自我改进”产生的超级智能，也就是人工智能系统在极少人类干预下不断打造出更强版本的自己，而他认为这一进程的推进速度，已经超出了此前的预期。

这也解释了为何在公众讨论层面，会出现两种截然不同的解读：一种把这类警告视为发自内心的安全警报，另一种则更倾向于将其视为一种概率化的思想实验，本身并不必然意味着迫在眉睫的现实危险。

与此同时,美国政界内部对这场辩论的反应同样呈现出明显分化，一部分人更担心技术发展本身可能失控，另一部分人则认为，相较于潜在的长期风险，在人工智能竞赛中落后于中国才是眼下更为紧迫的现实威胁。

这两种立场之间的拉锯，短期内显然难以得出统一结论。

一场刚刚开始被公众严肃对待的讨论

无论最终如何评判这些具体概率数字的科学性，这场讨论本身所折射出的现象已经足够引人深思：越来越多身处人工智能研发一线核心岗位的从业者，开始愿意公开、明确地表达自己对这项技术潜在风险的真实忧虑，而不再仅仅把这类话题留给公司公关稿或学术论文中的谨慎措辞。

对政策制定者、投资者乃至普通公众而言，这场原本停留在小圈子内部的“末日概率”辩论，如今显然已经变成了一个无法回避、需要被严肃对待的现实议题。