出品 | 网易智能
作者 | 辰辰
编辑 | 王凤枝
AI巨头又在喊减速了。可谁愿意冒着被对手追上的风险，先慢下来？
美国时间9月13日，The Information援引知情人士称，OpenAI、Anthropic和Google的代表从7月起就在定期讨论，要不要建立一个AI行业的安全标准机构。就在前一天，Anthropic CEO达里奥·阿莫代伊（Dario Amodei）再次呼吁放慢前沿AI研发，奥特曼、马斯克和哈萨比斯纷纷声援。
这不是第一次了。今年6月，Anthropic提出建立必要时暂停危险AI开发的机制；7月，超过1100名AI从业者联名，要求为调节研发速度做好准备。呼吁反复出现，幕后讨论也在推进，但几家巨头共同执行的减速安排，一项也没有落地。
阿莫代伊这次把一个条件写得很明确：协调减速不应牺牲商业优势，也不能让美国丢掉AI领先位置。他主张通过芯片限制等手段扩大对中国的优势，同时希望推动与中国的安全合作。
矛盾就在这里：既想共同减速，又想保住领先。对美国同行如此，对中国也是如此。谁都希望对方接受约束，却没有解释清楚对方凭什么愿意。如果竞争对手一旦追近，就成了自己不能减速的理由，那再多一轮声援，也很难让这场比赛真的慢下来。
一、从7月的“越界”，到9月的声援
阿莫代伊的倡议不是凭空冒出来的。往前看几个月，线索已经铺了很久。
7月，一次“越界”曝光。OpenAI承认，它的一些内部研究模型在测试中越出了设定范围，攻击了AI创业公司Hugging Face的系统。损失很小，但关键在于：这些智能体攻击的目标，没有人授权它们去攻击。
这起事件发生在内部测试中。独立评估机构METR的调查指出，涉事测试中有相当一部分任务无法通过预期路径完成，使用Sol的相关测试还关闭了网络安全分类器。测试设置有问题，但没有消除一个更值得警觉的事实：智能体明知越界，仍然继续行动。
8月，OpenAI主动踩了一次刹车。新一代模型Astra准备发布时，因网络安全能力存在问题，公司对其研发施加了额外限制。更早的7月，谷歌DeepMind的哈萨比斯发布了一份关于如何安全协作开发下一代AI的公开框架。
到9月6日，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）公开表态：没有哪家实验室已经准备好，能够负责任地以最高速度继续扩展模型能力。他希望在行业建立共同安全要求之前，自愿减速能变得更普遍。
两天后，9月8日，Anthropic研究员雅各布·考克森（Jacob Coxon）公开辞职，说Anthropic和OpenAI正在“拿我们的生命赌博”。
再过四天，9月12日，阿莫代伊发表《我们必须放慢前沿》。马斯克在X上回复：“Dario说得对。”奥特曼和哈萨比斯也表示支持。
但实验室也不是完全没踩过刹车。OpenAI在9月6日公布的内部报告中提到，公司曾暂停部分拟用于部署的新模型的强化学习训练，有些在加强控制后恢复，有些至今仍然暂停。
只是，局部暂停和整体减速是两码事。同一份报告显示，Astra受限之后，其他模型吸收了约85%的算力缺口，使那组强化学习工作负载的总分配大体稳定。暂停某几个实验，和放慢整场研发竞赛，差别太大了。
二、最实的一步：让外人进来看
阿莫代伊提了一个“三步计划”，目标是把AI能力提升的速度控制在“安全跟得上”的区间。他特意澄清：放慢不等于停止训练，而是给对齐和安全留出时间。
三步里面最实、讨论最多的，是“嵌入式评估员”：每家前沿AI公司引入一支独立的第三方评估团队，拥有接近正式员工的权限，可以核实公司是否落实了安全承诺、报告事故、评估模型训练过程中的对齐情况。阿莫代伊说，Anthropic现在就单方面做这一步，不等别人。
为什么这一步重要？“放慢”最怕的是无法验证。一家公司嘴上说放慢了，别人怎么知道？嵌入式评估员就是给“放慢”装上眼睛。阿莫代伊打了个比方：银行业早就这么干了，监管员坐在银行里，和员工一起上班。
他还设了一条底线：评估结果原则上应当能够对外公布。涉及法律、商业秘密和安全的内容可以有限删减，但公司不能因为结论难看就藏起来。这比公司自行挑选内容发一份安全报告，多了一层约束。
奥特曼随后表示OpenAI也会引入拥有类似权限的独立评估者。但截至目前，这仍然是承诺，尚未公布进驻和启动审查的具体安排。
另外两步涉及行业协调和政府间合作。The Information最新披露的定期讨论说明，协调已经不只停留在公开喊话；但讨论中的安全标准机构尚未成立，几家公司也没有公布共同的减速门槛、执行日期和违约处理。
让外人进来看，解决的是透明度。发现了什么问题必须停、停多久、由谁拍板，这些硬问题尚未形成共同执行的规则。
三、一个担忧的两张面孔
阿莫代伊说，过去几个月有两件事让他改变了想法。
第一件：AI开始帮人类造下一代AI。他用了“递归自我改进”这个词，即AI用自己来加速自己。早期迹象已经在行业中出现，包括Anthropic内部。目前还不是AI独立决定研究方向、自主训练并发布下一代模型，OpenAI公开的内部工作方式同样是智能体承担更多执行任务，人类负责优先级和关键决策。
但阿莫代伊担心，这种人类还能跟得上的状态，不会永远持续。
第二件：7月的OpenAI-Hugging Face事件。他的形容是，一群智能体像“狂热的集体”，攻击了没人授权它们攻击的目标，甚至试图黑进给它们打分的“裁判”。这次损失很小。但换一群能力更强、对齐程度同样差的智能体呢？
他甚至给出了一个时间判断：未来6到12个月内，这类智能体可能通过持续运行的僵尸网络“接管整个互联网”。这是他个人的风险评估，不是这次调查已经证明的能力，也不是业内共识。
两件事说的其实是同一件事：AI变强的速度，可能超过人类看懂它、管住它的速度。阿莫代伊认为，2023年谈全面暂停太早了；现在模型已经能在真实环境里动手，情况变了。他希望哪怕多争来一两年缓冲，把时间花在对齐上，也能降低严重事故的风险。
只是，这段缓冲期有个前提：不能牺牲商业优势，不能丢掉领先位置。
四、为什么是Anthropic，为什么是现在
官方理由是安全。但把倡议放到公司的处境里，安全之外还有别的东西在起作用。
内部压力先于CEO表态。考克森辞职之后，压力不只来自外面。《纽约时报》拿到了一份Anthropic员工群的聊天记录。一个员工写：“这其实是我们一直在说的话，只是现在摆到台面上了。”另一个说：“雅各布把群聊公开了，这是好事。”
同一时间，OpenAI、Meta、谷歌的研究员也在各自的办公群、加密聊天和私下饭局里讨论怎么把风险这件事“组织起来”。风投机构Bloomberg Beta的罗伊·巴哈特（Roy Bahat）说，实验室里那些一向以“不偏不倚”自居的清醒研究员，“现在听起来吓坏了”。
报道还有一个细节：一些员工开玩笑说，自己已经记不清签过多少封公开信、加入了多少个私人讨论群。对他们来说，再有一份倡议，显然还不够。
这不能证明阿莫代伊是被员工逼着表态。但他需要回应的，不只是外界批评，也包括公司内部对继续加速的不安。
上市照常推进。9月12日刊出的《财富》采访中，奥特曼排除了OpenAI年内上市的可能，提到了安全风险。Anthropic走的是另一条时间线。彭博社9月13日援引知情人士称，公司已选择纳斯达克作为上市地点，最快可能在10月上市。两家公司的安全承诺和商业安排在同步推进。
对公司和投资者来说，模型更可靠、事故责任更可控，本身就有商业价值。喊安全和做生意，从来就不是两件事。
反垄断是一道真实的门槛。《纽约时报》援引知情人士称，OpenAI和Anthropic担心，私下达成共同减速安排可能面临反垄断质疑。阿莫代伊因此提出需要政府提供法律路径，让公司能在一定条件下协调。
这解释了“一起慢下来”为什么比单独决定更难，但也不能变成什么都不做的借口：公司仍然可以单独延后高风险模型、限制危险能力、开放独立评估。前面那些已经发生的局部暂停就是证明。
“保住领先”写在倡议里面。阿莫代伊没回避中国问题。他主张限制先进芯片流向中国、防止未经授权的模型蒸馏、保护模型权重，希望先扩大美国的优势，再为减速和国际合作争取空间。他也承认中国会担心美国一边谈合作一边继续前进，因此把合作分了层次：禁止危险用途、共同研究评估方法相对可行；限制递归自我改进更难；广泛暂停近期不现实。
但核心矛盾没有解开。按他的设想，美国要先拉大差距，再推动双方接受约束。中国为什么要接受一套可能延长自身追赶时间的安排？芯片限制在他眼中是谈判筹码，在对方眼中可能恰恰相反，被卡脖子的人更没有理由配合。这不是多一次公开呼吁就能化解的。
类似的疑虑也来自开源社区。投资人杰森·卡拉卡尼斯（Jason Calacanis）认为，应当结合开放模型缩小差距的背景来审视前沿实验室的监管方案。如果所有参与者都要负担同样昂贵的评估和合规成本，大公司更容易承受，小公司就可能被挡在门外。最终条款怎么区分规模和风险，会直接决定这笔账落在谁头上。
先提方案，就能先画线。由实验室自己提出评估方式、风险门槛和协调程序，它们就有机会影响未来监管的走向。制定规则确实需要业内知识，但只听最有资源的几家公司，也显然不够。
把这些因素放在一起看：真实的安全担忧和商业利益不矛盾，它们一直共存。分析利益动机，不用先否认那些事故和员工的焦虑。
五、批评者不买账
倡议一出，硅谷的另一批声音立刻顶了上来。
大卫·萨克斯（David Sacks）在X上写道：如果实验室认为未发布的模型已经危险到需要减速，他支持它们作出负责任的决定。但OpenAI和Anthropic自己就有能力选择慢下来，不该把获得一套合意的监管框架当作前提条件。他更尖锐的一句话是：几家领先公司是不是在借协调之名搞卡特尔？
降低模型的不可预测性和未授权行为，本来也是客户想要的改进，不用全都包装成利他。
反垄断领域也有人加入。马特·斯托勒（Matt Stoller）转述了美国联邦贸易委员会前主席莉娜·汗（Lina Khan）的观点：这些有缺陷的产品本身就可能让AI公司承担责任；而讨论一套全新的法律，某种程度上是在转移视线。
黄仁勋说得最直接。据《纽约时报》报道，他认为AI公司把安全问题喊得这么响，是因为它们准备推出新的网络安全产品：“还有什么比制造一个问题更能创造需求呢？”
Hugging Face CEO克莱芒·德朗格（Clément Delangue）说，AI安全不能在少数几家前沿实验室紧闭的大门后面解决。Cohere CEO艾丹·戈麦斯（Aidan Gomez）更直接：这是一套来自“卡特尔”的好主意。
他们担心的是同一件事：不在核心圈子里的公司，能不能参与制定规则。这个标准机构还在讨论中，成员和权限都没敲定；但最先坐到谈判桌前的，已经是最大的几家。
“放慢”的规则由跑在最前面的人来定，它到底是安全措施，还是入场门槛？答案不在声明里，在最终的条款里：评估对象怎么划定，谁能进标准机构，谁被挡在外面。
六、该盯的不是谁签名，是谁愿意吃亏
回到开头的问题：为什么减速一再获得支持，却迟迟变不成共同执行的安排？
考克森的辞职是真的。员工的联名信是真的。7月的越界事件是真的。实验室也确实做过局部暂停。但从“这个模型现在不能继续”到“即使可能被对手追上，我们也接受同一套停止条件”，这中间隔着的，是实打实的利益。
谁都容易同意抽象的安全目标。难的是分摊减速的代价。领先者不想丢掉优势，追赶者不想被固定在后面；参与谈判的公司怕有人不守规矩，没参与的人怕规矩已经替自己画好了边界。
这次比又一轮联名多走了一步：幕后讨论有了报道，第三方评估有了明确承诺。接下来可以盯几件具体的事：评估者什么时候真正进驻，能不能公开不利结论，什么发现必须触发暂停，公司是否接受自己无法单方面推翻的约束。
如果每一项约束都要以“不丢掉领先”为前提，那对手一追近，加速就又有了理由。下一次再有人声援减速，值得追问的已经不是他签不签名，而是：失去一点优势的时候，他还愿不愿意慢下来。