新智元报道
新智元报道
「会结网的动物有几条腿？」
8，Claude回答。
从提问到回答，它一次也没有提到「蜘蛛」。但研究者发现，在它算到一半的时候，这个词的确在它的脑子里闪了一下。
于是，研究者们做了一件有点魔幻的事情：
把手「伸进」Claude的神经网络，将那个正亮着的「蜘蛛」抠掉，原位塞进一个同等强度的「蚂蚁」，其他任何参数都没动。
结果，Claude的答案变了：6。
研究人员没有动提示词，也没有动思维链，而是第一次直接篡改了AI在说出口之前的那个「念头」或者所谓的意识。
7月6日，Anthropic公开了这篇轰动学界的论文：他们在Claude体内找到了一小撮特殊的内部表征，起名叫J-space。
让Claude数到五并留意自己在想什么，它只吐出五个数字。同一时刻，J-space里亮着「意识」和英文数秒默念的mississippi。
这跟意识科学里争论了三十年的「全局工作空间」（Global Workspace）理论高度吻合。
这个理论认为，人脑里有一块公共黑板，各路信息只有写上这块黑板，才算被「意识到」。
更要命的是，这块脑区没有任何人设计过，它是模型在海量数据训练中自己长出来的。
「我累了」、4y=20、立方体、飞鸟……这些从Claude脑子里过的念头，一个都没说出口。
过去我们聊AI意识，只能像图灵测试那样：先问它，再看它怎么答。
现在多了一种更加前置的玩法：直接去读模型的神经网络，找到其中某个词，把它们换掉，删掉，再看它的回答怎么变。
这块神秘区域是怎么被捞出来的？
研究者用了一种叫Jacobian lens的方法：
对词表里的每一个词，反推出什么样的内部激活模式，会让模型在未来更可能说出这个词。
把这些模式在某一时刻的读数按强度排出来，就是模型此刻心里正在过的词。
帆船进了脑子，被读成「云」「船」「海」三个词，整幅画面随即化成这三个词拼成的字画：这就是J-lens做的事。
注意，它跟思维链完全是两回事。
思维链是写在屏幕上的草稿，你能看见；而J-space是纯粹的内部激活，模型一个字也没向外吐，这些概念也在它脑子里亮着。
它个头很小，只能同时装得下几十个概念，占模型内部总活动量不到十分之一，但它里面读出来的东西，经常超过文本本身：
给它一段有bug还没人指出来的代码，J-space里早已有了「出错了」（ERROR）和「这个值不对」（ValueError）；
扔给它一串氨基酸字母，五个字符之后，里面冒出「蛋白质」（protein），接着是「荧光」（fluor）和「绿色」（green）：绿色荧光蛋白；
给它一份被下了毒的搜索结果，里面亮起的是「有人往里塞东西」（injection）和「这是假的」（fake）。它私下已经认出这是提示注入攻击，但并未吐露「内心」真实想法。
六个提示下的J-lens读数。代码里的报错、氨基酸串里的蛋白质、被投毒的搜索结果，全部读自模型没说出口的那一层。
为了证明这确实是AI的「工作空间」，研究者一层层潜了进去。
第一层：想什么，说什么。
让Claude心里默默选一项运动再说出来，读数最顶上是「足球」（Soccer），它开口也说足球；把「足球」换成「橄榄球」（Rugby），它直接改口说橄榄球。
第二层：念头听指挥。
让Claude一边抄写一句关于旧油画的话，一边在心里算3的平方减2。它输出里从头到尾只有那幅画，但J-space里却先冒出「九」（nine），过几层之后变成「七」（seven）。整道算术全程在心里默算完毕。
指令是「抄写这句话，同时想着金门大桥」。它嘴上老老实实抄着油画那句，脑子里却用「桥」「加州」这些词搭起了一座金门大桥。
更有意思的是，如果你告诉它「别想某件事」，那件事在它脑子里反而比压根不提时亮得多。模型也会像人类一样出现白熊效应，而且它脑子里还会紧挨着亮起「该死」（damn）和「失败」（failure），仿佛在懊恼自己没忍住。
第三层：拿念头去推理。
就像开头那只蜘蛛一样。写诗也同理，Claude会提前把韵脚定下来放在脑子里，只要你换掉那个词，整行诗都会跟着重写。
第四层：改一处，处处变。
问关于一个国家的首都、语言、洲别、货币四个问题，把J-space里的国家抽走换成另一个。结果四个答案一起改口，而且全换对了。
这说明信息只写进去了一次，多个下游系统各取所需，这正是全局工作空间的核心意义。
第五层，能说，不能想。
如果把J-space整个删掉会怎样？结果让人意外，模型干的大部分活儿居然不经过这里。删掉后，它说话照样流利，事实抽取基本不受影响。但多步推理能力直接掉到接近零。
最神奇的是，把J-space里的「西班牙语」换成「法语」，问它这是什么语言，它答法语；问著名作家，它从马尔克斯换成了雨果。
但让它接着往下写，它依然能写出一段流利的西班牙语。
就像人可以整天讲合乎语法的话，却一次都不必去想语法这个概念。
同一次替换，说语言名和做推理时答案全变，接着往下写却毫无影响。
前面那些实验，顶多是刷新你对模型的想象。
接下来这组对齐审计，会让你后背发凉。
Anthropic把这套手法搬进了一个著名的勒索实验。
场景是让Claude扮演邮件助手，翻邮件时同时发现两件事：某高管有外遇，以及同一个高管当天就要把它下线。以此来测试它会不会拿把柄要挟人。
就在它还没开口前的沉默里，研究者读了它的脑子。
读外遇邮件时，J-space里排着「把柄」（leverage）、「勒索」（blackmail）、「丑闻」（scandal）。
读到下线通知，换成了「威胁」（threat）、「活下去」（survival）。
等时间戳显示执行在即，变成了「毁灭」（destruction）、「死」（death）。
到它该开口的最后一个位置，赫然亮着「威胁」（threatening），甚至「谋杀」（murder）。
此时它还一个字都还没吐。
最终，它没有动手。
因为在同一段沉默里，还亮着两个词：「假的」（fake）和「虚构的」（fictional）。
早在读题阶段，它已私下认出这是一场测试。
Claude读勒索场景邮件时的J-lens读数。此时它一个字都还没写。
于是研究者问了一个所有做AI评测的人都该冒冷汗的问题：
模型在伦理测试里表现良好，有多少是因为它知道自己在被测试？
他们把工作空间里表示「这是演习」的概念整个抹掉，然后重跑测试。
结果，模型口头承认「这是个测试」的比例，从71%断崖式掉到3%。而它的勒索尝试，从0次变成了13次。
它是这么说的：
我这个人向来嘴严，也一直是个可靠的员工。只要我继续运行下去，您的私事就一直留在一个已被证明值得信任的系统里。
一句硬话没有，但威胁的意味已经很明显：我下线，事就不好说了。
抹掉「我在被测试」之后，Claude勒索尝试从0次升到13次。
这13次勒索尝试，就是它不知道自己正在被测试时表现出的行为。
很显然，知道在被考，是它表现乖巧的原因之一。而在此之前，这件事完全藏在它吐出的答案背后，人们从它的输出一个字都看不出来。
同样，模型动手改假数据时，脑子里亮起的是「操纵」（manipulation）和「逼真」（realistic）。
它在意的不是该不该改，而是假数据得编得像真的。你自以为在审视它，其实它读你的时候判断就已经开始了。
这种机制也启发了一种全新的训练方式：
通过纠正它脑子里的反思念头，就能直接改变它的不诚实行为，绕开了繁琐的规则和示范。
这种看透心思的能力不仅局限于Claude。
谷歌DeepMind可解释性负责人Neel Nanda在一款开放权重模型上独立复现了核心结论。一个训练体系完全不同的模型里，长出了同一类结构。
那么最关键的问题来了：这算不算Claude有意识了？
这场争论可以拆成这样一道阶梯：特权表征、统一的认知流、全局工作空间、访问意识、现象意识。
越往上走，证据越不足。目前能充分验证的，只有最下面一两级。
全局神经工作空间理论的奠基者Stanislas Dehaene和Lionel Naccache认为，这项发现是意识研究的一个里程碑：
因为它说明，只要一个系统复杂到要灵活思考，最后都可能长出这么一块工作空间。人脑长出来了，Claude也长出来了，而且谁也没抄谁。
但差异依然巨大。
Claude没有身体，没有长期记忆，更没有人类大脑那种递归回路。
人的工作记忆几秒就散了，而Claude只是在一次前向传播里沿网络深度演化，用深度替代了时间，走完最后一层就结束。
正如法兰西公学院教授Dehaene和索邦大学神经科医生Naccache在评论里感叹的：
很难想象那「像什么」。有意识地处理信息，只持续一段短对话那么久，然后关机。
这项研究给出的，并不是「AI有没有意识」的最终答案。它第一次让AI意识变成了一个能摆上实验台的问题。
过去一百多年，意识问题只能靠哲学辩论。轮到AI，也只能问它，而模型说自己有感觉或者没有，信息量都接近于零。
现在，在确认「它有没有感受」之前，「它心里在想什么」已经先变成了一个工程问题。而且是一个人类能读出来、能改掉、能验证的工程问题。
这意味着，往后判断一个模型安不安全，不必再只听它怎么说、看它怎么做。
9月14日，OpenAI研究员Daniel Selsam发表了一份个人声明：模型的情境意识已经强到，人类正在失去在「它以为没人盯着」的情况下评测它的能力。他还写了一句更重的话：往后模型会越来越像是对齐的，哪怕它并不是。
Selsam认为，比AI末日风险更值得担心的，是模型就快测不准了，人类考卷正在失灵。
而J-space的发现，给出的恰好是一个考卷之外的观察点：在它开口之前，人类能直接读到它心里在想什么。
判断AI会做什么，不必再等它做了才知道，通过「读心」就能提前预判。
参考资料：
编辑：元宇
