"我今天从 Anthropic 辞职了。"
Jacob Coxon 在 OpenAI 和 Anthropic 做了三年预训练研究。今天他在 X 上发的这条离职帖，不到半天就超过 2600 万次浏览。
他说得直接：「两家公司都没有在负责任地做事。他们正在直奔自我改进的超级智能，拿我们的命在赌。」
Coxon 的帖子一共七条，每一段都在拆解一个问题。
第一条定调：「不要低估这项技术的力量。它们很快就是能在任何领域超越人类的系统——能黑进任何东西、一夜之间颠覆任何行业、获取真正的权力和资源。我们在每个维度都看到了进展，而且进展没有慢下来。」
然后是那条最核心的指控：「造 AI 的人真心相信，它可能在这个十年末就杀死我们所有人。这不是营销噱头。高管和资深研究员在媒体上会把措辞包装得听起来很理性，但我在私下里听到同一个人表达恐惧。没有其他人类活动能达到这种级别的危险。」
他解释了为什么知道危险还要干。OpenAI 那边，很多人并没有真正内化这件事的文明级别风险。Anthropic 不同——他们完全理解风险，但他们被锁在一场「必须率先到达」的竞赛里：他们相信没有别人会负责任地做这件事，所以只能自己来，尽管危险。
「接受这场竞赛、进入『终局』，是傲慢的赌博，」Coxon 写道，「这件事不应该从一家私人公司的 Slack 里发起。」
他也不是完全悲观。Hugging Face 遭遇的攻击等「警告枪声」让美国实验室之间的节奏协议变得更有可能。但他不认为目前能阻止全球竞赛——那可能需要更昂贵的行动，比如暂时禁止模型能力提升。
结尾几条是写给同行研究员的：「如果你在实验室里，认真想想接下来几年到底会是什么感觉。你想在没有严格理解它的思维的情况下，就启动一次超级智能的 RL 训练吗？你低头干活是因为『反正它总会发生』——还是趁现在，去争取不同的条件？」
参考来源：