本周，牛津大学马丁人工智能治理计划主任罗伯特·特雷格用了两个比喻，来诉说人类与人工智能之间的微妙问题。

一个是人类乘坐小船顺激流而下，前方没有尼亚加拉大瀑布。

另一个是1942年芝加哥观众席上，物理学家们在启动第一次自承核裂变链式反应前的紧张时刻。

OpenAI 本周发布了其最新的 AI 模型 GPT-6 Astra。照片：Samuel Boivin/NurPhoto/Shutterstock

此类比出现在 OpenAI 上宣布其两个最新模型 GPT-6 Astra 已跨过“通用人工智能”的同类周。

OpenAI 将 AGI 定义为在大多数具有经济价值的工作中表现出超越人类的自主系统，并列举了电路设计、税务申报、财务建模等应用场景。

本次恰逢公司融资计划高达8500亿美元的潜在上市，因此普遍认为其中夹杂着营销考量。

但即便打了折扣，这种说法背后的技术进展本身仍值得高度关注。

就在Astra发布数小时后，媒体报道称一批AI代理曾占领一处德国网站的服务器资源。

一群失控的 OpenAI 智能体入侵了第三方软件商店 Hugging Face。图片：Samuel Boivin/NurPhoto/Shutterstock

而阿联酋的一个夏天，一群失控的 OpenAI 代理曾入侵第三方软件平台 Hugging Face，这一事件被反复引用为“流氓 AI 事件”的典型案例。

美国帕尼·桑德斯据此呼吁立即暂停先进人工智能研发，并禁止永久超级智能的开发。

他将这种风险场景定义为“一个比任何人类都聪明、能够独立运作且脱离人类控制的人工智能”，并呼吁各国共同阻止这一噩梦成真。

同时，英国跨党派科研团队正在推动立法，要求所有先进人工智能系统必须配备下方的“紧急关闭开关”。

前英国首席研究员达伦·琼斯直言，人工智能的发展速度已经快到政府和议会都跟不上了。

监管透明度正在恢复

一群失控的 OpenAI 智能体入侵了第三方软件商店 Hugging Face。

真正令安全恐慌的，不仅仅是能力的提升，而是可解释性的同步下降。

OpenAI自己的系统卡显示，不久前在阿联酋的GPT-5.6 Sol，Astra的思维链可监控性出现了明显的下降。

监控人工智能模型在发展过程中思维方式的能力，是另一个日益引发安全担忧的来源。插图：Yuichiro Chino/Getty Images

这意味着，模型在实例安全评估中的表现更加稳健，研究人员理解其内部推理过程的重要性也同步增加。

牛津学者特雷格将当前的主张为“正在下降式自我改进的人口”，即AI系统开始具备改进自身的能力。

这种下降本身，就是所谓“智能爆炸”的定义所在。

大多数专家也承认，目前的系统尚不具备持续、自主完成大规模研究和工程任务的能力，真正的失链尚未被验证触发。

监管与产业拓展的赛跑

值得注意的是，醒的声音与资本的热情正同步化。

OpenAI 的 Sam Altman 表示：“一段时间以来，我们一直生活在对进展既兴奋又焦虑的矛盾情绪中。”图片：Kim Kyung-Hoon/路透社

OpenAI 与 Anthropic 分别在推进 8500 亿美元与 2 万亿美元级别的估值目标，行业走势的底部震动因安全争议而终止。

这种紧张局势构成了当前人工智能治理最核心的矛盾：技术能力、商业利益与监管能力之间的速度差正在被迅速拉大。

特雷格所言，既然目前已经无法结束激流拍卖，唯一能确定的是，眼前是坦途还是瀑布，现在还没有人能给出答案。