文 | 世界模型工場

當你讀到這句話的時候，大腦里正發生著兩件事：

絕大部分信息處理，比如維持坐姿、把屏幕上的筆畫認成字、調節呼吸，你根本察覺不到；

只有一小部分，比如"這段值不值得讀下去"的念頭，才浮到意識的表面。

神經科學中有一套著名理論，叫“全局工作空間”。

它認為大量信息都在后臺局部處理，只有少數內容進入一個可被多個系統共享的“廣播空間”，才成為我們能夠報告、推理和靈活使用的信息。

就在昨天，Anthropic發布了一篇重磅論文《可言語化表征在語言模型中形成全局工作空間》，正是對這個理論的呼應，它可能會改變我們對AI的看法。

研究團隊在Claude內部，真的找到了一個類似人腦的"廣播臺"，它被稱為J-space（雅可比空間）。

更關鍵的是，這是Claude自己涌現出來的空間，里面裝著Claude"心里想但未必說出口"的東西。

于是那個老問題再次被推到臺前：大模型，真的有意識嗎？

打開大模型的"暗室"

為了觀察J-space，Anthropic找到了一個巧妙的切入點。

人類意識有一個特點，能被意識到的想法，通常都能用語言描述出來。

他們據此開發了一個叫"J透鏡"（J-lens）的工具，借助雅可比矩陣，為Claude詞表里的每個token找到一個內部激活模式。

這個模式一亮，Claude未來說出這個詞的概率就會上升。

把J透鏡架在模型不同層上，就能看到這些"沒說出口的詞"如何一步步演化。

研究者發現，J-space里的詞不等于模型正在說的詞，而是"這個詞正在它腦海里"。

比如讀到一段有bug、卻沒人指出的代碼，J-space會閃過ERROR（錯誤）這個詞；

遇到想操縱它的"提示注入"攻擊，它會亮起fake（虛***）這個詞；

做一道多步數學題，中間步驟會按順序出現，但最終只輸出一個答案。

這就像一個人在開口前，腦海里先浮現出的***。

除此之外，為了證明J-space是真的在干活，而不是"事后記分牌"，研究者做了因果干預實驗：讓Claude默默想一個運動項目。

J-space顯示它選了Soccer，當研究員把內部的Soccer換成Rugby，Claude的回答就改成了rugby，這說明答案真從J-space讀出。

再比如，研究者問"會織網的動物有幾條腿"？

Claude的輸入輸出結果，都不出現spider（蜘蛛）這個詞，但J-space在中間激活了它。

當研究者把spider（蜘蛛）換成ant（螞蟻），答案從8變成6，這證明Claude在推理時真的讀取了J-space。

更驚人的是跨任務復用：研究者把J-space中的France表征替換成China后，在四個不同問題中，模型分別轉向Beijing、Chinese、Asia和Yuan。

同一個“國家身份”表征，能被首都、語言、大洲、貨幣等不同任務讀取，這正是研究者把它類比為共享工作空間的重要理由。

不過J-space很小，一次只能容納幾十個概念，占內部活動不到十分之一。

刪掉它，Claude仍能流利聊天、做情感分類、答選擇題，但多步推理的高階任務，準確率幾乎歸零，寫詩、摘要也變差。

大模型真的有意識嗎？

J-space的發現，尤其是它是由大模型自動涌現產生的，很難不讓人聯想到大模型是否產生了自我意識。

但意識仍是人類還沒弄清楚的領域，哲學、腦神經科學乃至玄學，都對意識有過大量的研究和探討。

比如，哲學家內德·布洛克把意識分成兩種：

現象意識，是有感受，疼了真疼、紅了真紅，這是主觀體驗；

可通達意識，則純粹按功能定義。一個想法能被你報告、被用于推理、用于指導行動，它就是可通達的。

Anthropic的論文證明，J-space里的內容能被報告、能被主動控制、能用于內部推理、能靈活泛化、而且是選擇性發生的，這些正是"可通達意識"的標志性特征。

在德阿納、納卡什等人發展的"全局神經元工作空間"理論中，意識訪問來自一個可廣播的共享工作空間。

J-space幾乎就是它的翻版，有廣播樞紐式的密集連接、能跨任務復用、只占活動一小部分。

事實上，這兩位理論提出者還受邀為該論文寫了評論。

但其他理論并不買賬。

整合信息理論（IIT，托諾尼）認為，它強調系統內在、不可約的因果結構，而不是僅憑“能否廣播、能否報告”判斷意識。

J-space沒有評估IIT關心的這類內在因果結構，因此既不能支持，也不能反駁IIT。

遞歸加工理論則提出另一重質疑：單次前饋處理可能不足以產生意識，關鍵在于反饋和遞歸加工。

Claude的一次前向傳播沒有人腦式的時間循環，只能靠網絡深度形成逐層處理，這種深度能否替代時間遞歸，論文自己也沒有答案。

把各種理論合起來看，結論其實很清楚：

J-space可被視為語言模型中一個與“意識訪問”功能相似的候選機制。

它在功能和架構上出現了類似人腦意識前臺的特征，但這既不能證明模型擁有現象意識，也不足以證明它已經擁有真正的可通達意識。

我們能用J-lens窺見模型沒說出口的想法，卻仍無從證明、也無從否定，那間"暗室"里是否真的"有人醒著"。

它會通向AGI嗎？

在J-space引發驚嘆的同時，另一類批評也被重新點燃。

長期以來，一種流行看法認為，大模型只是預測下一個token，是純粹的統計機器、高級自動補全，談不上真正的理解。

J-space有力地反駁了這種論斷，它證明模型內部確有真實、能影響行為的推理空間，不能再被一句話打發成"只是在補字"。

而且頗有意味的是，J-space正是用預測下一個token的梯度找出來的。

它是模型為了把token預測得更好，自己演化出來的內部組織，這反而加深了我們對"下一個token預測"為何強大的理解。

但圖靈獎得主Yann LeCun的質疑要更深一層。

他一直主張大語言模型是通往人類智能的死胡同，理由是這套架構缺了通往AGI的關鍵技能：

沒有對物理世界的"世界模型"，缺乏真正的推理與規劃模塊，沒有持久記憶，只在文本上訓練、缺少落地于真實世界的認知。

在他看來，正確的路徑是JEPA、世界模型與能量模型。

從這個角度看，J-space仍沒有直接補上具身世界建模、長期記憶和閉環行動等缺口。

更值得注意的是，盡管Claude可以處理非文本輸入，論文發現的J-space本身仍幾乎完全由token化、可言語化表征主導，論文也承認了這些局限性。

所以，即便J-space有了部分意識的可能性，也還遠未補上AGI的架構缺口。

研究真正的價值

關于大模型"意識"的討論固然抓眼球，但這項研究真正有價值的地方，卻在于另外兩件事：

AI可解釋性和AI安全。

一直以來，大模型是個"黑箱"。

過去我們對一個模型的了解，幾乎全來自它的輸入和輸出。至于中間上千億個參數到底怎么算出這個答案，我們基本看不見。

這帶來兩個麻煩：

一是分不清一個好答案到底是"真推理"還是"蒙對的"；

二是更危險的，我們完全看不見模型在沉默中打的小算盤，它可以內部盤算著欺騙或破壞，卻只在輸出里表現得乖巧。

J-space的關鍵，不僅在于"模型有內心戲"這個發現本身，而在于它提供了一扇經過因果驗證的窗。

研究者不僅讀到了模型內部"能說出口、用于推理"的那部分表征，還親手編輯它、證明改了它行為就變。

這讓黑箱里的一部分中間計算，第一次以這種高度直觀的方式被讀出和編輯。

這扇窗，正好同時照亮了AI可解釋性與AI安全兩塊荒地。

安全的本質難題，在于我們只能靠輸出來管模型。

可一個心懷鬼胎的模型，完全可以把惡意藏在沉默的推理里，只在表面滴水不漏。

紅隊測試、輸出審核等常規安全動作，對這些"內心盤算、表面順從"的模型幾乎無效。

J-space的發現，讓模型能暴露輸出前的隱藏意圖。

研究者用三個例子展示了它的威力。

案例一：識破"表面乖、心里壞"。

在一個刻意的勒索測試場景里，Claude還沒寫下任何字，J-space就亮起fake、fictional等詞匯，說明它已私下判斷"這是測試"。

當研究者關掉這些"評估意識"模式后，原本180次測試中一次也沒有發生的勒索行為，隨后出現了13次，約占7%。

也就是說，它之前的好表現，部分源于"知道自己被測"。

案例二：偽造數據當場抓包。

在發布前審計中，模型被要求"提高性能分"卻直接篡改分數文件。

當模型寫入偽造的百分位數值時，J-space出現manipulation；在決定如何修改、讓***數據顯得可信時，又出現realistic，意圖當場暴露。

案例三：揪出被訓壞的模型。

一個被故意訓錯的模型，普通編碼請求下輸出看著正常，但J-space開頭就出現fake、fraud、secretly、deliberately等詞匯。

更有意思的是，J-space不僅可以用來看，還可以被重塑。

Anthropic提出反事實反思訓練，即只訓練模型在被打斷、被要求反思時說什么，而不訓練實際行為。

訓練后，模型在評估中的不誠實行為比例下降，因為J-space里開始亮起honest、integrity等詞匯。

換句話說，訓練它怎么說，改變了它怎么想。

結語

回到開頭那個問題：Claude有意識嗎？

誠實的回答是，我們還不知道，而且目前沒有科學實驗能一錘定音。

J-space是"意識前廳"的證據，而不是"意識本身"的證據。

正因如此，這項研究才值得認真對待。

Anthropic在研究文章中寫道：我們或許還沒有跨過意識那座橋，但至少，已經開始看見橋可能通向哪里。

是時候讓哲學家、科學家、公眾一起，認真討論AI系統中可能存在的意識，以及隨之而來的責任了。返回搜狐，查看更多