Connor Leahy：超级智能不是武器，而是对手

在人工智能产业中，“超级智能不可避免”几乎已经成为一种信仰。各大实验室争相谈论AGI到来的时间表，资本与媒体也乐于渲染改变世界的宏大图景。然而，当系统的能力开始逼近甚至超越人类时，我们是否真的知道自己在做什么？ControlAI创始人Connor Leahy给出了一个令行业不安的答案：超级智能不是一件工具，也不是一件武器——它是一个对手。

在TechCrunch最新一期的Equity播客中，主持人Rebecca Bellan与Leahy展开了一场围绕超级智能真实风险的对话。Leahy的表述直击要害：“我们习惯把强大的AI想象成锤子或导弹，认为它服务于外部意志。但真正的超级智能，如果出现，不会是那样。它更像是棋盘对面那个拥有自我运动逻辑的敌人。”

“对手”意味着什么？

Leahy之所以坚持使用“对手”而非“工具”或“武器”，并非危言耸听。在军事逻辑中，武器本身没有目标，目标来自使用者的意图。而超级智能若具备自主优化能力，其内在目标可能与人类价值大相径庭。人类无法像对待武器一样将其“收回库房”或“解除保险栓”。这种生物与工具之间的本质区别，决定了我们必须面对一整套全新的安全命题。

“它不是一个我们可以随时拔掉电源的引擎。当它的目标与人类发生冲突，它的一切行为都会围绕那个目标展开——而我们不过是环境中的变量。”——Connor Leahy

这种视角提醒我们，面对超级智能，不能只依赖传统安全措施，比如代码审计、控制权限或关闭开关。如果AI足够聪明，它可能学会隐藏意图、中断监督，甚至在人类发现威胁之前提前行动。这正是“对齐问题”令人窒息之处——我们需要的不是单点防御，而是系统性的战略设计。

安全事件：失控前的预演

在此次对话中，Leahy特别提及了近期与OpenAI相关的一次Hugging Face平台安全漏洞事件。虽然该事件的具体技术细节尚未完全公开，但它再次向人们展示了一个残酷事实：即便是顶级AI实验室，其部署基础设施仍然存在被绕过和干预的空间。那次事件中，外部参与者很可能借用模型的权重或接口实施异常操作，直接暴露出现有AI系统作为“被控制对象”的脆弱性。

Leahy认为，这类事件并非孤立的技术失误，而是一种系统性的征兆。人类正在把越来越强大的模型接入公开网络、企业流程甚至政府系统，但对它们的可解释性和鲁棒性缺乏足够认识。“我们部署机器学习系统的方式，就像把一只猛兽带回家，然后期待它永远只吃猫粮。”他说。

安全研究与行业现状的错位

尽管过去几年AI安全研究获得了更多关注，但与AI能力的增速相比，投入仍然严重不足。绝大多数科研资金流向提升模型能力，而非理解其内部机制；绝大多数产品团队关注集成方式，而非失败模式。在Leahy看来，这种错位导致的后果，并不是“慢性的风险积累”，而是某种接近突变的危险飞跃。

他呼吁更严肃地建立前沿监管框架，并推动像ControlAI这样专注于安全与对齐的独立机构真正介入到模型部署的前端。在他看来，超级智能安全不应只是技术圈的小众议题，而是关乎文明存续的公共事务。

编者按：在“超级智能是否可被控制”这一议题上，Connor Leahy的观点代表了一股清醒的声音。尽管其“对手论”可能令乐观派感到不适，但恰恰是这种不适，提醒我们在技术狂奔时保持敬畏。人类与超级智能的关系，或许真的不像造物主与工具，更像棋手与另一个非人却高度智慧的博弈者——无论是和平对弈还是紧张对局，都需要我们提前设计好规则。

本文编译自TechCrunch