Anthropic推法案：50人死亡风险才拦AI？

编者按

AI安全立法正在进入“细节决定成败”的阶段。Anthropic推动的一项法案看似为高风险模型设置刹车，但真正争议在于：谁来踩刹车，以及是否需要法官点头。TechCrunch记者Lucas Ropek报道称，这项拟议政策表面上提供防止AI失控的保护，实际上却禁止联邦机构在没有法官许可的情况下阻止模型发布。

换句话说，法案把“AI是否危险”的技术判断，部分转化为“监管机构能否获得司法授权”的程序问题。这种设计既可能防止行政权力滥用，也可能让高风险模型在冗长审查中顺利上线。

50人门槛：安全阈值还是象征性数字

根据TechCrunch标题，该法案提出当模型可能导致50人以上死亡时，可以阻止其发布。将抽象AI风险转化为可量化的公共安全阈值，支持者认为这能给监管机构明确抓手，避免以模糊担忧扼杀创新；批评者则认为，AI风险并非线性，模型可能造成系统性伤害、心理操纵、基础设施攻击或长期社会影响，单一死亡人数门槛容易漏掉低概率、高影响场景。

更关键的是，“可能造成50人死亡”如何认定？由谁评估？需要多强的证据链？如果标准过严，监管难以启动；如果标准过松，又可能引发过度干预。法案没有在标题和摘要中给出答案，但这些细节将决定它究竟是安全阀门，还是合规装饰。

真正的开关：司法审查

相比50人门槛，法案更具争议的是程序条款。摘要明确指出，政策“实际上 forbids federal agencies from blocking a model's release without the permission of a judge”，即联邦机构必须先获得法官许可，才能阻止模型发布。这相当于把预防性监管改为司法对抗：监管机构需要向法院证明模型风险足够紧迫，而模型开发者则可在法庭上质疑证据。

“The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model's release without the permission of a judge.”

支持者会强调正当程序：AI模型发布涉及创新、言论和商业利益，行政机构不应单方面封堵。反对者则担忧，在模型迭代以周计、发布即全球分发的时代，司法程序可能太慢。一旦高风险模型上线并被广泛部署，事后追责很难消除伤害。

Anthropic的立场与行业博弈

Anthropic一直以“安全优先”作为品牌核心，推动AI安全立法并不意外。对头部AI公司而言，明确规则可降低政策不确定性，也能将安全能力转化为合规优势。但法案若把阻止发布的门槛设得很高，头部企业可能借合规体系证明自身安全，初创公司却要面对更高的法律与评估成本。

这折射出AI监管博弈的新阶段：行业焦点已从“要不要监管”转向“如何监管、谁来批准、在什么条件下批准”。Anthropic的法案提议，既是在回应公众对AI风险的焦虑，也是在争夺AI治理规则的话语权。

对AI治理的启示

全球AI治理正尝试在创新与安全之间寻找平衡。欧盟、美国联邦与州层面都在探索风险分级、透明度报告和发布前评估。Anthropic法案的争议说明，真正的难点不只是设定“50人死亡”这样的数字，而是建立可操作的风险评估、紧急干预和司法制衡机制。

更合理的路径可能是：对高风险模型设置分级审查，明确监管机构的紧急封堵权限，同时保留快速司法复核和开发者申诉渠道；对开源与闭源模型差异化处理；并要求发布后持续监控。否则，“安全法案”可能沦为监管权限的重新分配，而公众真正关心的风险仍未被有效覆盖。

本文编译自TechCrunch。