AI安全别只盯着末日，日常危害更值得警惕

编者按：每当谈论AI安全，公共讨论很容易滑向“末日场景”：超级智能失控、生物武器、关键基础设施被攻击。这些风险当然不能忽视，但MIT Technology Review这篇评论提出了一个更朴素的问题：如果一家公司只承诺聊天机器人不鼓励自杀，或让儿童更难在平台上买到芬太尼，我们是否就该把这点当作技术政策的成功？

低门槛的“成功”叙事

文章开篇给出一组耐人寻味的例子：AI公司承诺其聊天机器人不会鼓励自杀；社交媒体平台表示已让儿童更难购买芬太尼。作者认为，这些保护很重要，而且本应从一开始就存在。问题在于，它们被包装成值得赞扬的成就，成为企业展示责任感的证据。

这就是当前科技政策的一个错位：成功标准被压得极低。企业只要避开最显眼、最极端的伤害，就能宣称自己“负责任”，同时继续推出可能带来长期、弥散性影响的产品。换句话说，跨过低门槛并不等于产品安全，更不等于治理完成。

公司可以跨过这些低门槛，却继续生产带来日常伤害的产品。

灾难叙事为何吸走注意力

过去几年，AI安全话语越来越集中在“高影响、低概率”的灾难风险上。游说者、研究机构和政策制定者围绕模型失控、网络攻击、生物安全等议题展开辩论。这些议题重要，但它们也塑造了一种叙事：安全是遥远未来的技术问题，而不是当下产品每天造成的问题。

灾难叙事有天然吸引力。它戏剧化、容易传播，也容易转化为宏大立法。相比之下，日常危害显得琐碎：推荐算法放大焦虑、陪伴型聊天机器人强化孤独、招聘模型延续偏见、隐私被悄然侵蚀、儿童在平台上接触有害内容。它们往往没有单一爆发点，却持续影响大量普通人。

文章提醒，政策注意力是稀缺资源。当所有讨论都被“末日”占据，监管者就容易忽略那些已经在发生、可测量、可干预的伤害。企业也乐见这种错位：谈未来风险比谈当前产品责任更安全。

日常危害不是“小问题”

所谓日常危害，并不等于轻微危害。心理健康影响可能累积成危机；算法偏见可能让求职者、借款人长期处于不利地位；成瘾性设计可能改变未成年人的行为模式；诈骗和非法交易则直接威胁人身安全。它们之所以被称为“日常”，是因为嵌入在产品使用中，而非因为后果不严重。

更关键的是，这些危害往往可以通过产品设计、默认设置、透明度和审计来降低。例如，对高风险场景设置更强默认保护，对推荐系统进行独立评估，为儿童账户采用更严格的安全设计，要求企业披露安全测试结果和事件数据。这些措施不依赖等待通用人工智能出现，也不需要等到“最坏情况”发生。

监管需要从口号转向可衡量指标

作者的核心主张可以概括为：AI安全政策不能只围绕灾难想象建立，而应建立对日常危害的持续测量和问责。具体而言，政策应要求企业报告产品对心理健康、未成年人保护、隐私和歧视的影响；监管者应支持独立审计和外部研究；平台和AI公司应把安全默认值设为底线，而不是可选项。

这并不意味着放弃对灾难性风险的防范。两者应当并行：一边为极端风险建立预警和应急机制，一边把日常危害纳入产品全生命周期治理。真正负责任的技术政策，不是看企业能否发表漂亮承诺，而是看它能否持续降低已经发生的伤害。

分析观点：这篇文章的价值在于纠正一种“安全幻觉”。当行业把最低限度的保护包装成重大进步时，公众和政策制定者容易误以为问题已经解决。AI治理需要更谦逊也更严格的标准：不以“没有发生灾难”为成功，而以“日常伤害是否被识别、披露和减少”为尺度。

本文编译自MIT Technology Review