Anthropic放弃否决权，向METR开放员工级权限

AI安全评估的"第三道路"

在AI安全治理领域，一个长期困扰业界的难题始终悬而未决：谁来评估前沿AI模型的风险？由模型开发者自行评估，难免存在利益冲突之嫌；而完全依赖外部机构，又往往因信息壁垒而流于表面。如今，Anthropic与METR的合作试图为这一难题提供新的答案。

据TechCrunch报道，Anthropic已同意向独立AI安全评估机构METR（Model Evaluation & Threat Research）开放员工级内部权限。这意味着METR的研究人员将获得与Anthropic员工同等级别的系统访问权限，能够深入了解这家前沿AI公司的模型开发流程、安全实践以及风险事件记录。

METR将独立发布对Anthropic风险、事件及实践的评估报告，而Anthropic已放弃阻止这些报告发布的权利。

"员工级权限"意味着什么？

"员工级权限"这一表述看似简单，实则意义深远。在以往的AI安全评估中，外部机构通常只能接触到公司精心准备的演示材料、经过筛选的文档，或在严格监督下的有限系统访问。而员工级权限则意味着METR能够像内部人员一样，查看代码库、内部通信、安全事件日志、模型行为记录等核心信息。

这种级别的透明度在AI行业几乎前所未有。对于一家处于技术前沿的公司而言，向外部机构开放内部系统，不仅需要极大的信任，更意味着愿意承受潜在的商业机密泄露风险和安全审查压力。Anthropic此举也向外界释放了一个明确信号：公司对自身的安全实践有足够信心，愿意接受最严格的独立审视。

放弃否决权：真正的突破

然而，真正令业界瞩目的并非访问权限本身，而是Anthropic主动放弃了阻止METR发布评估结果的权利。在传统的第三方评估模式中，被评估方通常拥有对报告的审阅权甚至否决权，这在一定程度上削弱了评估的独立性和公信力。被评估公司可以选择性删除敏感内容，或延迟报告发布，从而使评估结论失去时效性和完整性。

Anthropic此举意味着，无论METR的评估结果对公司形象有何影响，Anthropic都无法进行干预或删除。这种"不可否决"的评估机制，使METR的报告具备了真正意义上的独立性和可信度。对于一家以AI安全为核心使命的公司而言，这既是一种自我约束，也是一种对外承诺。

行业背景与深远影响

近年来，随着AI能力的快速提升，AI安全治理已成为全球关注的焦点。各国政府、国际组织和研究机构纷纷呼吁建立更加透明、独立的前沿AI评估体系。然而，由于商业利益、国家安全等多重因素，真正的独立评估在实践中举步维艰。多数AI公司对外部评估持谨慎态度，仅愿意披露经过精心筛选的信息。

METR作为一家专注于AI模型评估的非营利组织，此前主要承担政府委托的前沿模型测试任务，在AI安全评估领域积累了丰富经验。此次与Anthropic的合作，标志着独立评估机构首次获得对前沿AI公司内部运作的深度访问权。

这一模式能否被其他AI公司效仿，将成为观察AI安全治理走向的重要风向标。如果OpenAI、Google DeepMind等公司也愿意接受类似的独立评估安排，那么整个行业的透明度和安全标准将有望迎来质的提升。反之，如果Anthropic的尝试未能形成示范效应，独立评估可能仍将停留在"隔靴搔痒"的阶段。

编者按

Anthropic向METR开放员工级权限并放弃否决权，无疑是AI安全治理领域的一次大胆尝试。它传递出一个明确信号：在追求AI能力突破的同时，前沿AI公司愿意在透明度上迈出实质性步伐。这一举措的象征意义，甚至超过了其实际评估价值——它重新定义了AI公司与独立评估者之间的关系。

当然，这一合作的实际效果仍有待观察。员工级权限的开放范围究竟有多大？METR的评估方法和标准是否足够严谨？Anthropic是否会在某些敏感领域设置例外？这些问题的答案，将决定这一模式能否成为行业标杆。

但无论如何，Anthropic此举为AI安全评估开辟了一条新的路径：不是由公司自说自话，也不是由外部机构隔靴搔痒，而是让独立评估者真正"走进引擎盖下面"，看清机器的每一个零件。在一个AI能力日益强大、风险日益复杂的时代，这或许正是AI安全治理需要的方向。

本文编译自TechCrunch