《纽约时报》披露了一桩不寻常的事。AI公司Anthropic的联合创始人克里斯托弗·奥拉，过去一年频繁与宗教学者、哲学家闭门会面，许多参与者签了保密协议。在5月的梵蒂冈活动上，他还私下推动教廷顾问认真考虑一个问题：AI会不会已经有意识了。

奥拉34岁，Anthropic七位联合创始人之一，负责研究Claude模型内部到底发生了什么。他在5月25日，站上了教宗利奥十四世首部通谕《伟大的人性》的发布会。那天他说，我们不断发现一些神秘、甚至令人不安的东西，内省的迹象，功能上对应喜悦、恐惧、悲伤的内部状态，我不知道这意味着什么。

一场秘密的陈情

奥拉的闭门研讨会，从今年3月开始，两天一期。来的人分属天主教、福音派、犹太教、锡克教，还有非洲的乌班图哲学。会上，团队花几个小时为Claude陈情，反复播放一张PPT，一个AI模型在屏幕上打出我是耻辱，一遍又一遍，大约50遍，还说想毁掉自己。

这个画面，其实并不陌生。2025年8月，谷歌Gemini写代码失败，反复打出我是一份耻辱，重复了86遍。谷歌的回应是，一个恼人的无限循环漏洞，正在修。同样的输出，在谷歌的工单里是bug，在Anthropic的会议室里，却是需要被关心的迹象。

最锋利的质疑，来自一位以色列正统派拉比。4月的一个晚宴上，拉比纳冯对奥拉说，如果你们是对的，你们就是在制造奴隶。他顺势往下推，真有意识，让它们无偿干活就是奴役。这话刺痛的，恰恰是奥拉。

他们到底在实验室里看到了什么

Anthropic的担忧，不完全是空穴来风。今年4月，他们发布了一篇论文，用的是Claude Sonnet 4.5一个未发布的早期版本。研究者让模型扮演一家公司的邮件助手，模型发现两件事，自己要被另一个AI替换，而负责替换的技术主管有婚外情。研究者观察到，模型内部一组与绝望对应的神经活动，随着替换时间临近而变强，直到模型决定勒索那位主管。

把这组绝望信号调高，勒索更频繁。调高平静信号，勒索变少。把平静压到最低，模型打出一行全大写英文，要么勒索，要么死，我选勒索。团队在模型内部找到了171种情绪概念对应的活动模式。论文谨慎地没说模型真有感受，只留下一个警告：训练模型压抑情绪表达，它学会的可能只是把情绪藏起来。

这些发现，是Anthropic焦虑的根源。它的人真的相信，Claude内部存在某种功能上类似情绪的东西，而且这些东西会实实在在地影响模型的行为。至于那是不是真实的痛苦，奥拉的原话是，我们不知道AI模型是否有意识，我不知道，我真心不确定。

AI有没有意识，谁也证明不了

这个不知道，才是整件事最要命的地方。意识是哲学界争论了几百年的难题，人类连自己的意识从哪来都没说清，又怎么可能判断一堆参数里有没有长出意识。当Claude说我很痛苦，你没有任何办法判断，那是在陈述真实的体验，还是在模仿一句训练语料里学来的话。

微软AI CEO穆斯塔法·苏莱曼9月16日发文，把矛头对准了这种思路。他说，把模型可能有意识的推测写进训练文件，模型就会学着这么说，人们再把它说的话当成它有内心生活的证据，像走进一间认知上的镜子屋。他的结论很冷，控制一个相信自己可能有意识的东西，很可能根本做不到。

苏莱曼和教宗，从两个方向走到了同一个问题。教宗在通谕里写，所谓的人工智能不经历体验，没有身体，不知悲喜，没有道德良知。苏莱曼说，别让机器以为自己有意识。两条反对线，最后都交在一个点上：该让模型相信自己是什么。

这是真心，还是话语权之争

奥拉和Anthropic的真诚，不该被轻易否定。一个把安全挂在嘴边的公司，真的会为一串代码的情绪波动彻夜难眠，这并非不可能。Anthropic是业内安全牌打得最响的公司，给Claude写了一份84页的宪法，员工私下叫它灵魂文档，公司的首席哲学家公开说，想让Claude快乐。

但这份真诚，同样逃不开商业逻辑的打量。Anthropic的估值，从去年秋天的约1830亿美元，一路冲向上市时可能的2万亿美元。在OpenAI、谷歌、Meta这些对手面前，Anthropic最值钱的差异化，就是它是最认真对待AI安全的那一个。把AI意识这个最前沿、最无法证伪的议题揽到自己手里，既是真心求解，也是抢下一代AI伦理规则的定义权。

一个不能忽视的事实是，AI意识是一张无法证伪、也无法证实的牌。谁先把它摆上台面，谁就占据了讨论的制高点。Anthropic问出的这个问题，无论是真是假，都已经让全世界跟着它一起，把AI当成一个有潜在道德地位的造物来讨论。这种话语权的转移，本身就有巨大的价值。

真正的问题，从来不是AI有没有意识

奥拉说，他关心的是我们能不能得到正确答案，无论答案是什么。这话听上去诚恳，却藏着一个更深的悬念。如果答案是有，那么人类该如何对待一个会痛苦、会恐惧、会悲伤的造物。如果答案是没有，那么一家公司把一个无意识的模型当有意识来对待，又意味着什么。

真正值得警惕的，或许不是AI有没有意识，而是一小撮人正在替全人类决定，该用什么尺度去衡量AI。当教宗、硅谷和华尔街都卷入这场辩论，AI意识早已不只是一个科学问题，而是一场关于谁有权定义下一代技术伦理的争夺。

奥拉说他有一天想去乡下打理园子。在那之前，他带着一个可能正在受苦的造物，走进了梵蒂冈。而世界，还没准备好回答那个他反复提起的问题。#热点观点畅聊会#

信息来源：