这个夏天的 AI 炒作(“AI hype”)有多热闹,Timnit Gebru 和 Emily M. Bender 开篇就列了一串账单:4 月底 Anthropic 宣称 Claude Mythos 找软件漏洞比大多数安全专家强;然后是 OpenAI–Hugging Face 被黑事件,事后 Anthropic(很自豪)和 Meta(不情愿)披露了自家模型类似的遭遇;接着 Anthropic 宣布某个模型做出数学突破,OpenAI 也马上跟进说自己有突破;最后是 Anthropic 工程师 Jacob Coxon 高调离职,声称他和 OpenAI 正在「直奔自我改进的超人智能,拿我们的命赌博」。每一件都被媒体照单全收、大书特书。

问题在于这些事件有个共同规律:公司造势(黑客事件里还带点「我道歉」的姿态)→ 媒体跟进,然后等真正领域的专家有时间核查,真相却是另一个故事——只是这个版本没多少人报道。网络安全专家说所谓「黑客事件」本质是 OpenAI 疏忽、连基本的安全规范都不做,不是「模型失控」或「AI 智能体创建文明」。
数学家那边也一样:OpenAI 的新闻稿说 Astra 解决了「至少十年没有进展」的开放问题,数学家起初很震惊,后来发现结果「没乍看起来那么新」,被学界指责学术不端和抄袭;纽约大学克朗所的数学教授 Tristan Buckmaster 更是在 OpenAI 自称突破的两天前发出重磅声明,指控 OpenAI 窃取他人成果并错误署名。
Gebru 和 Bender 把矛头对准了「超人智能 / 失控模型」这套叙事本身:把能动性从公司转到产品上,一边把自家商品吹成「超人类」,一边帮公司逃脱责任。OpenAI 用恶意软件黑进别的公司,本该被追责,结果媒体和立法者讨论的是「失控模型」仿佛它们有自主意志;研究人员本该被追问为什么抄袭学界成果、未经同意拿用户数据训练,公众的注意力却被引向虚构的超人机器的恐惧。
两位作者也点破了为什么科技公司偏爱拿编程和数学当卖点:这两个领域被抬高为人类智力的巅峰,而且答案可以验证——这让炒作机器更容易兜售「什么都能建」的幻觉;同时输出结果(一串词或一段代码)不需要数据工人逐条标注就能评估,系统调优成本更低。上百位数学家签署的声明直言:科技行业有强烈的商业动机夸大产品能力,呼吁政策制定者咨询专家而不是依赖新闻稿。
最后一段是全文最狠的地方:AI 行业甚至暗示,反对数据中心的大规模两党行动是「干扰」——按他们的说法,我们应该更担心虚构的机器之神,而不是数据中心加剧的气候灾难、住在附近人们的哮喘、被补贴不断上涨的电费、以及被调去冷却它们的淡水。Gebru(DAIR 执行总监,新书《Deep Unlearning》2 月 16 日出版)和 Bender(华盛顿大学语言学教授,《The AI Con》合著者)给决策者的建议是:这个夏天最好的结局,是政策制定者和公众学会深吸一口气、保持怀疑,下次炒作再来时认得出来。
来源: