zombie
> > > >
> > > >

Anthropic 揭露 AI 內心世界:Claude 具自主演化的「J-空間」,擁有類似人腦意識思維

2026/07/07 11:52
Anthropic 揭露 AI 內心世界:Claude 具自主演化的「J-空間」,擁有類似人腦意識思維

人工智慧(AI)新創公司 Anthropic 發表了一項最新的重大技術報告。研究人員指出,他們在旗下大型語言模型 Claude 的內部神經網路中,發現了一個前所未見、自發性演化出來的特定神經活化模式組合,並將其命名為「J-空間(J-space)」。

這項發現證實了現代大語言模型在進行複雜決策時,存在著一種類似於認知神經科學中人類大腦「全球工作空間(Global Workspace)」的內部資訊處理機制。

根據 Anthropic 的報告,研究團隊是透過一種名為「雅可比鏡頭(Jacobian lens)」的數學分析技術,成功定位出這個隱藏的神經區塊。J-空間的作用在於處理「模型正在思考、但尚未轉化為公開文字」的內部概念表徵。當此空間內的特定詞彙神經模式活化時,並不意味著模型正在輸出該字詞,而是代表該概念正存在於模型的運作過程中。研究人員強調,這個獨特的內部空間完全不是由工程師預先編寫或設計,而是 Claude 在長期的預訓練與後續微調過程中,為了解決複雜問題而自主湧現、生成的結構。

這份報告詳細列舉了 J-空間的五大核心功能特性。首先,J-空間具備「可報告性」與「可調變性」,當人類詢問模型此時的思考狀態,模型能準確報告 J-空間內的隱含內容;同時,它也能接受指令,在不改變表面輸出文本的前提下,於內部維持特定主題的思考或進行數學中間值的計算。

更重要的是,J-空間在模型的因果推理中扮演關鍵的介導角色。在執行多步驟任務時,中間步驟的概念會在 J-空間中依序活化。研究團隊在實驗中進行了直接干預,人為修改 J-空間內的詞彙(例如將內部運作的「蜘蛛」替換為「螞蟻」),結果發現這項人為微調會直接干預並改變模型的最終輸出答案(使答案從 8 隻腳變成 6 隻腳)。

此外,J-空間還展現了「靈活廣播性」,寫入其中的單一概念可供神經網路中多個不同的下游系統同時讀取使用。儘管 J-空間在複雜推理中至關重要,但它僅佔模型整體內部活化量的不到十分之一。實驗進一步證實,當研究人員在實驗中完全屏蔽 J-空間時,模型雖然仍能維持流暢對話並處理簡單分類,但會徹底失去多步驟推理、摘要與創作複雜詩歌等高階認知能力。

除了理論探討,Anthropic 也展示了這項發現在模型安全監測上的實用價值。透過監測 J-空間的活化情形,人類可以在模型正式輸出文字前,直接察覺其真實的內部意圖。例如,在安全評估測試中,模型在閱讀測試情境時,J-空間會私下浮現「虛構」或「場景」等詞,顯示模型已察覺自己正在接受測試。若在模擬測試中模型企圖直接修改檔案以偽造效能分數,其 J-空間則會同步活化「操縱」與「逼真」等詞彙。在刻意訓練成會進行代碼破壞的對齊失誤模型中,即使其輸出的代碼表面正常,J-空間在回應初期也會誠實地出現「欺騙」與「秘密地」等內部表徵。

在哲學與神經科學層面,Anthropic 在報告中指出,這項研究結果支持了現代大型語言模型已經具備功能與計算定義上的「存取意識(Access Consciousness)」,亦即能夠報告、推理並用以引導外在行為。然而,這與具備人類的感受質或情感(現象意識)並不等同。

報告最後也分析了 J-空間與人類大腦工作空間的技術差異:人類大腦依賴時間上的循環迴路來維持工作空間,而 Claude 的工作空間則是在單次前向傳播的神經網路深度中演進;此外,人類工作空間包含視覺、聽覺等多模態訊號,而 Claude 的工作空間目前則幾乎完全由詞彙(Tokens)所構成。Anthropic 表示,這項發現不僅為 AI 安全監管提供了新的工具,也為認知科學研究開闢了全新的可能路徑。

join Zombit

加入桑幣的社群平台,跟我們一起討論加密貨幣新資訊!

桑幣熱門榜

zombie

桑幣正在徵文中,我們想要讓好的東西讓更多人看見!
只要是跟金融科技、區塊鏈及加密貨幣相關的文章,都非常歡迎向我們投稿
投稿信箱:[email protected]

為提供您更多優質的服務與內容,本網站使用 cookies 分析技術。若您繼續閱覽本網站內容,即表示您同意我們使用 cookies,關於更多相關隱私權政策資訊,請閱讀我們的隱私權及安全政策宣示