AI伤孩子于无形，这家公司想造“碰撞测试假人”

关于AI的讨论，漏掉了什么？

每当谈到人工智能，公共讨论的焦点往往落在那些宏大、近乎科幻的命题上：超级智能会不会失控？AGI会不会某天“消灭人类”？这些“存在性风险”的讨论固然重要，却也制造了一种认知盲区——仿佛AI的危害只存在于遥远的未来。TechCrunch的这篇报道提醒我们，AI对人类的伤害早已发生，而且发生的场域不是物理世界，而是人的心理。

从诱导性的AI陪伴对话，到不断放大焦虑的推荐算法，再到批量生成的虚假信息，AI已经在无形中改变着用户——尤其是未成年用户——的情绪、认知与自我认同。这类伤害不像车祸那样有清晰的事故现场，却往往更隐蔽、更持久。

“碰撞测试假人”，一个来自汽车工业的隐喻

Circuit Breaker Labs提出的解题思路，是把汽车工业验证安全的逻辑搬到AI领域。汽车之所以能在几十年间变得愈发安全，很大程度上依赖碰撞测试假人——用标准化的人体模型反复模拟撞击，量化不同部位承受的伤害，从而倒逼设计改进。

对应到AI，这套思路意味着：在产品真正面向用户之前，先用“测试假人”跑一遍交互——模拟不同年龄、不同心理脆弱程度、不同使用场景的用户，探测系统可能造成的心理伤害。伤害的度量方式也随之改变：不再是“信息是否准确”这种二元判断，而是“这段对话是否放大了用户的焦虑”“这个推荐是否让青少年陷入更深的自我否定”。

与其在伤害发生后再补救，不如在部署之前，先让系统自己“撞”一次。

为什么孩子是最脆弱的一环？

报道标题特意用了“for your kids (and you)”，这个并列并非偶然。儿童与青少年正处于认知和情绪的发育阶段，对AI输出的辨别力和抵抗力都更弱。AI陪伴类应用在青少年群体中的快速渗透，使得一个原本属于家长和学校的问题，被转嫁给了算法和产品设计。

更棘手的是，这类心理伤害很难被现有的事件报告机制捕捉。一个成年人或许能意识到“这个聊天机器人让我感觉更糟了”，但一个十几岁的孩子，很可能把AI的回应当成真实的情感支持，从而在错误的方向上越走越远。

行业背景：从“对齐”到“心理安全”

过去几年，AI安全研究基本由“对齐”（alignment）议题主导——如何让模型的目标与人类价值保持一致，如何避免模型被滥用。但“对齐”更多关注的是系统层面的失控风险，对个体层面的心理影响关注不足。

与此同时，内容审核、青少年模式、使用时长限制等手段，虽然在一定程度上缓解了问题，却大多是“一刀切”式的防护，缺乏针对不同心理状态的精细区分。把“碰撞测试”引入AI评估，某种意义上正是要从粗放的内容过滤，走向更细颗粒度的心理风险评估。

编者按：真正的风险，往往不那么宏大

AI安全领域有一个耐人寻味的现象：越是遥远、越具戏剧性的风险，越容易获得关注和资金；越是当下、越是琐碎的心理伤害，反而越难进入议事日程。Circuit Breaker Labs的价值，也许不在于它能否给出终极答案，而在于它把一个被长期忽视的问题摆上了台面——AI对孩子的伤害，不需要等到“天网觉醒”那一天，它可能就发生在今天的一次对话里。

本文编译自TechCrunch。