從神經(jīng)科學(xué)到知識論

可解釋性的進路之辨

「解釋的本質(zhì)，不在于凝視機器本身，而在于審視機器所凝視的世界」。

(相關(guān)資料圖)

2026年7月，Anthropic研究團隊發(fā)表了《A global workspace in language models》，通過名為J透鏡的工具在Claude內(nèi)部識別出一個可被觀測、可被干預(yù)且具有因果效力的神經(jīng)活動區(qū)域——J-Space。

這一發(fā)現(xiàn)之所以引發(fā)廣泛關(guān)注，在于它使研究者得以窺見模型推理過程中的「內(nèi)心獨白」，標(biāo)志著可解釋性研究從對模型行為的解釋邁向了對其內(nèi)部狀態(tài)的實時觀測。

J-Space以認(rèn)知神經(jīng)科學(xué)的全局工作空間理論為解釋框架，將語言模型的推理活動類比于人類意識層面的信息處理，在方法論和認(rèn)識論層面都構(gòu)成了重要推進，也為AI安全提供了全新的監(jiān)控維度。

然而，正因其影響深遠，更有必要審慎檢視這一進路的內(nèi)在局限。J-Space研究的根本取向是內(nèi)在主義的——它將可解釋性的核心問題設(shè)定為「理解模型內(nèi)部發(fā)生了什么」，試圖像神經(jīng)科學(xué)家用fMRI掃描人腦一樣，用J-lens掃描語言模型的神經(jīng)活動。

這一進路預(yù)設(shè)了可解釋性的答案藏在模型「體內(nèi)」，然而一個模型的輸出是否可被理解，不僅取決于其內(nèi)部狀態(tài)的可見性，更取決于這些狀態(tài)與世界中的事態(tài)、語義規(guī)范以及使用者的認(rèn)知框架之間的關(guān)系。

僅憑觀察神經(jīng)活動來理解模型的話語，就如同僅憑觀察一個人的腦電活動來理解他所說的話——我們或許能捕捉到神經(jīng)關(guān)聯(lián)，卻未曾觸及話語的意義本身。

除此之外，J-Space借用了全局工作空間理論這一關(guān)于意識的理論來解釋語言模型，在移植過程中一種微妙的范疇錯誤悄然發(fā)生：功能層面的同構(gòu)性被誤等同于認(rèn)識論層面的等價性。

模型沒有主觀經(jīng)驗，J-Space中的激活模式只是數(shù)學(xué)運算的產(chǎn)物，而非任何意義上的心靈狀態(tài)。

更深層的問題在于，J-Space研究本質(zhì)上是一項工程導(dǎo)向的工作，它將「可解釋性」窄化為「可觀測性」和「可干預(yù)性」，然而在更廣泛的知識論傳統(tǒng)中，「解釋」的含義遠比此豐富——它涉及將現(xiàn)象納入更一般的規(guī)律框架，涉及提供理由和依據(jù)，還涉及對決策正當(dāng)性的論證。

J-Space能夠告訴我們模型「在想什么」，卻無法告訴我們模型為什么以這種方式思考，它所依據(jù)的「理由」是什么，這些理由在何種意義上是「好的」理由。這些問題的答案不在神經(jīng)活動模式之中。

上述局限指向一個共同的癥結(jié)：J-Space乃至整個以神經(jīng)網(wǎng)絡(luò)為焦點的可解釋性研究，始終將「模型本身」作為解釋的唯 一對象，問題的起點和終點都是模型。

本文嘗試提出一種不同的視角——將可解釋性的追問從模型內(nèi)部轉(zhuǎn)向模型所處理的信息，從神經(jīng)科學(xué)的內(nèi)部主義進路轉(zhuǎn)向知識論的「信息本體論」進路。

這一轉(zhuǎn)換基于一個簡潔的觀察：大型語言模型本質(zhì)上是信息處理器，其輸入和輸出均為文本，而文本的意義——即我們真正需要解釋的東西——并不存在于神經(jīng)元的激活值中，而存在于這些符號與世界、與知識、與人類實踐之間的關(guān)系之中。

當(dāng)一個模型回答「巴黎是法國的首都」，我們需要解釋的不僅是模型內(nèi)部哪個區(qū)域被激活了，更是這個陳述在何種知識體系中成立，它以什么為依據(jù)，這些依據(jù)的可靠性和正當(dāng)性如何，這個回答與人類已有的地理知識之間是什么關(guān)系——這些問題無一能通過掃描神經(jīng)活動來回答。

因此，本文主張將可解釋性問題的核心從「模型如何思考」轉(zhuǎn)向「模型處理了什么樣的信息、這些信息具有怎樣的本體論地位」，從而將可解釋性的對象從模型本身擴展至模型所嵌入的整個信息生態(tài)——包括訓(xùn)練數(shù)據(jù)的結(jié)構(gòu)、知識的表征方式、推理過程中的信息流轉(zhuǎn)，以及輸出與外部知識體系的映射關(guān)系。

以J-Space為代表的可解釋性研究將神經(jīng)科學(xué)范式引入了人工智能領(lǐng)域，其貢獻在于使我們得以窺見模型「內(nèi)部發(fā)生了什么」。然而這一進路的內(nèi)在主義取向、對功能類比的依賴以及工程化視角對「解釋」概念的窄化，共同構(gòu)成了其認(rèn)識論上的三重局限。

本文認(rèn)為，要真正推進大語言模型的可解釋性問題，需要超越對模型內(nèi)部狀態(tài)的凝視，轉(zhuǎn)而從知識論的視角出發(fā)，系統(tǒng)考察模型所處理的信息——其來源、結(jié)構(gòu)、表征方式、流轉(zhuǎn)路徑及其與外部知識體系的關(guān)系——的本體論基礎(chǔ)。正是這一視角的轉(zhuǎn)換，構(gòu)成了本文研究的出發(fā)點。

本體論源起

可解釋性的哲學(xué)地基

「概念無直觀則空，直觀無概念則盲」。

先拋出一個古老的哲學(xué)追問：人類究竟如何理解世界？康德在《純粹理性批判》中給出了經(jīng)典回答：他認(rèn)為人類心靈并非被動接收外界刺激，而是先天配備了十二種「純粹知性概念」（「十二范疇」）作為認(rèn)知的形式框架。

康德從人類邏輯判斷的十二種形式中推導(dǎo)出這些范疇，將其分為量、質(zhì)、關(guān)系和模態(tài)四組：量涉及「多少」，質(zhì)涉及「是什么樣」，關(guān)系涉及事物之間的聯(lián)系，模態(tài)涉及存在的方式。

康德的范疇理論本質(zhì)上是一種關(guān)于「可理解性」的本體論承諾：只有能被納入這十二種范疇框架之下的東西，才能成為知識對象；超出框架的「物自體」永遠不可知。這意味著康德意義上的「本體論」不再追問世界「本身是什么」，而是追問「世界對我們呈現(xiàn)為什么」。

這對于AI可解釋性的深層啟示在于：當(dāng)我們解釋一個語言模型的輸出時，真正「可解釋」的不是內(nèi)部神經(jīng)元的物理激活，而是信息被范疇化、被結(jié)構(gòu)化為可理解知識的過程。神經(jīng)激活屬于物自體層面，模型輸出的話語意義則屬于現(xiàn)象界層面，只有被置于某種認(rèn)知結(jié)構(gòu)框架中才能被理解和評判。

本體是AI可解釋性的「鑰匙」。在分析層面，它提供了一套完備的概念框架來描述模型所處理信息的結(jié)構(gòu)化形態(tài)——我們可以追問一個陳述中是否隱含了「實體與偶性」的歸屬、「因果性」的判斷或「模態(tài)」的承諾，從而系統(tǒng)描述模型構(gòu)建了何種知識結(jié)構(gòu)，而非籠統(tǒng)地說「模型似乎理解了因果關(guān)系」。

在規(guī)范層面，它為可解釋性提供了評判標(biāo)準(zhǔn)：若模型內(nèi)部表征中確實形成了與本體相對應(yīng)的結(jié)構(gòu)化模式，其輸出就具備被理解的基礎(chǔ)；若始終無法映射到這些本體之上，則無論輸出多么流暢，在認(rèn)識論意義上都是不可解釋的。

以康德范疇作為可解釋性的哲學(xué)鑰匙，并非主張模型必須「擁有」這些范疇——康德的范疇是主體的先天認(rèn)知條件，而模型則是功能上的實現(xiàn)問題，它可能通過不同的神經(jīng)計算路徑在功能上等價地區(qū)分實體性、因果性或模態(tài)差異。

關(guān)鍵在于：可解釋性不要求模型內(nèi)在機制透明到每一個權(quán)重的程度，而要求我們能夠確認(rèn)模型在信息處理層面所形成的結(jié)構(gòu)是否映射到了人類用以理解世界的范疇框架之上。

從理論到實踐：

本體工程與大語言模型的融合

本體論提供的是關(guān)于「可理解的結(jié)構(gòu)應(yīng)當(dāng)是什么樣」的規(guī)范性回答，但這一回答本身并不自動轉(zhuǎn)化為可運行的技術(shù)系統(tǒng)。本體論若無本體工程的支撐，便只是懸置在空中的概念游戲。

本體工程作為將哲學(xué)范疇實例化為可計算、可維護、可追溯的技術(shù)實體的實踐領(lǐng)域，構(gòu)成了從理論到應(yīng)用的必經(jīng)橋梁。

在人工智能可解釋性問題上，本體論與本體工程的關(guān)系尤顯根本：前者告訴我們應(yīng)當(dāng)追問什么樣的知識結(jié)構(gòu)，后者則負(fù)責(zé)在模型、數(shù)據(jù)和系統(tǒng)之間實際構(gòu)建起這樣的結(jié)構(gòu)。

大語言模型的出現(xiàn)，使本體工程獲得了前所未有的發(fā)展動能，也反過來提出了全新的工程挑戰(zhàn)。傳統(tǒng)本體構(gòu)建依賴領(lǐng)域?qū)＜业娜斯⑴c，流程漫長、成本高昂，且難以適應(yīng)知識更新和領(lǐng)域演變的節(jié)奏。

大語言模型憑借其從海量文本中提取語義模式和知識關(guān)聯(lián)的能力，正在從根本上重塑本體工程的實踐形態(tài)。

在類定義、關(guān)系抽取、屬性構(gòu)建等核心本體學(xué)習(xí)任務(wù)中，語言模型能夠以遠超人工作業(yè)的效率完成大規(guī)模知識的結(jié)構(gòu)化提取。更為關(guān)鍵的是，語言模型在識別概念之間的層級關(guān)系、同義關(guān)系和關(guān)聯(lián)關(guān)系方面展現(xiàn)出的語義敏感度，使得本體構(gòu)建從「專家手工編制」演進為「人機協(xié)作生產(chǎn)」乃至「自動生成式構(gòu)建」。

這種轉(zhuǎn)變的意義不僅在于效率提升——它使本體的構(gòu)建具備了前所未有的可擴展性和領(lǐng)域覆蓋度，使得原本只有少數(shù)關(guān)鍵領(lǐng)域才能享有本體支持的局面，開始向更多垂直場景和快速變化的知識領(lǐng)域開放。

與此同時，本體工程的反向賦能同樣不可忽視。大語言模型固然強大，但其推理過程的不可見性、輸出的不可驗證性以及對訓(xùn)練數(shù)據(jù)統(tǒng)計規(guī)律的依賴，共同構(gòu)成了可解釋性的根本障礙。

本體在此扮演的工程角色是多重的：它作為結(jié)構(gòu)化的知識供給者，為模型提供經(jīng)過驗證的領(lǐng)域知識底座；作為推理的校驗框架，對模型的輸出進行一致性約束和邏輯校準(zhǔn)；更根本地，作為解釋的錨定結(jié)構(gòu)，使模型的每一步推理都能夠被映射到明確定義的類、屬性和關(guān)系之上。

當(dāng)一個模型的輸出可以追溯至其所依賴的本體條目，解釋便不再依賴于對神經(jīng)網(wǎng)絡(luò)內(nèi)部狀態(tài)的猜測，而是建立在對知識結(jié)構(gòu)本身的追溯之上。這正是可解釋性從「透視黑箱」向「展示知識結(jié)構(gòu)」轉(zhuǎn)變的工程基礎(chǔ)——前者在技術(shù)上面臨不可逾越的困難，后者則是一個可設(shè)計、可優(yōu)化、可驗證的工程問題。

在這一雙向融合中，「AI友好的本體框架」成為一個關(guān)鍵的工程命題。傳統(tǒng)本體面向描述邏輯推理機設(shè)計，其語法、公理和推理機制均圍繞確定性符號推演優(yōu)化；而大語言模型的介入，從根本上改變了本體的消費者形態(tài)與使用場景。

這一變化要求本體設(shè)計原則做出相應(yīng)調(diào)整——本體應(yīng)當(dāng)收斂其職責(zé)，專注于清晰定義領(lǐng)域中的對象、關(guān)系、行為與規(guī)則，即為模型提供推理所依賴的「語義骨架」；而具體的推理過程——規(guī)則的選取、組合與應(yīng)用——則交還給語言模型自身的泛化能力。

職責(zé)的重新劃分帶來了明確的工程收益：本體不必追求邏輯完備性而陷入復(fù)雜公理化的泥沼，而是以簡潔性和可維護性為前提，為模型輸出提供穩(wěn)定的語義坐標(biāo)。

在此框架下，本體的構(gòu)建須面向大語言模型的調(diào)用接口進行優(yōu)化——其類定義與關(guān)系描述應(yīng)便于模型理解與使用，結(jié)構(gòu)化知識應(yīng)便于模型檢索與引用，約束規(guī)則應(yīng)便于模型進行輸出驗證。這樣的本體既非替代模型推理的符號引擎，亦非僅供查閱的靜態(tài)背景資料，而是嵌入推理鏈路之中、可被實時調(diào)用與追溯的解釋性基礎(chǔ)設(shè)施。

可解釋性的未來

解釋模型vs解釋影響

本文以J-Space為引，經(jīng)由康德十二范疇的哲學(xué)奠基，最終落腳于大語言模型與本體工程的融合實踐，完成了一條從神經(jīng)科學(xué)到知識論、再到工程實現(xiàn)的思想線索。

貫穿其中的核心判斷是：大語言模型的可解釋性困境，并非僅僅源于模型內(nèi)部機制的不可見性，更源于我們長久以來將「解釋」等同于「透視」的思維慣性。著名科幻作家斯坦尼斯瓦夫·萊姆在其著作《索拉里斯星》里描述了一片覆蓋整個星球、能讀取人類記憶并將其具象化的膠質(zhì)海洋，堪稱「AI黑箱」的終 極隱喻。

海洋能處理海量信息、生成超越人類預(yù)期的結(jié)果，但其底層邏輯對人類而言完全不可解碼——它既非善意亦非惡意，只是遵循著人類無法參透的自身規(guī)律。

更悲觀的是，海洋最終拒絕了人類「馴化」或理解它的一切嘗試，暗示認(rèn)知的終 極邊界或許客觀存在。這一意象恰恰警示我們：即便我們能觀測到模型「正在想什么」，也未必能理解它「為什么這樣想」。

可解釋性問題的真正難點，或許不在于技術(shù)手段的不足，而在于問題框架本身的窄化。

突破大語言模型可解釋性的可行路徑，不應(yīng)局限于嘗試「打開黑盒」這一單一方向，而應(yīng)同等重視乃至更加重視對模型輸出及其現(xiàn)實影響的觀察、理解與控制。

本體工程在此提供了關(guān)鍵的實踐框架：通過構(gòu)建AI友好的、可被模型調(diào)用和追溯的語義骨架，我們得以將模型的推理錨定在明確定義的知識結(jié)構(gòu)之上，使輸出所依賴的類、屬性和關(guān)系獲得可形式化描述與可追溯驗證的工程基礎(chǔ)。

當(dāng)模型的每一個陳述都可以被映射到本體所定義的概念框架中時，「解釋」便不再是對神經(jīng)網(wǎng)絡(luò)權(quán)重的解剖，而是對知識結(jié)構(gòu)的展示；當(dāng)模型輸出的依據(jù)可以在本體層面被追溯和校驗時，「控制」便不再是強行干預(yù)內(nèi)部激活，而是對信息流轉(zhuǎn)路徑的規(guī)范化管理。

這一視角的轉(zhuǎn)換將可解釋性從一項近乎不可能完成的技術(shù)挑戰(zhàn)，轉(zhuǎn)化為一項可通過工程手段持續(xù)逼近的治理目標(biāo)——它要求我們不再執(zhí)著于讓模型變得完全透明，而是致力于讓模型在現(xiàn)實世界中產(chǎn)生的影響變得可理解、可追溯、可問責(zé)。

通付盾一直在本文所探討的本體工程與可解釋性框架理念下深耕實踐，公司核心產(chǎn)品LegionSpace正是基于上述技術(shù)理念構(gòu)建。作為一個以本體為核的企業(yè)級AI基礎(chǔ)設(shè)施，LegionSpace將模型所處理的信息、所依賴的知識納入形式化本體工程，使每一次推理與決策都錨定在可解釋的知識結(jié)構(gòu)之上。

其愿景是讓本體成為AI與人類理解之間的共同語言，使可解釋性成為工程化治理現(xiàn)實。

關(guān)鍵詞 Anthropic J透鏡 人工智能 可解釋性研究