從神經(jīng)科學(xué)到知識論

可解釋性的進(jìn)路之辨

「解釋的本質(zhì)，不在于凝視機(jī)器本身，而在于審視機(jī)器所凝視的世界」。

(相關(guān)資料圖)

2026年7月，Anthropic研究團(tuán)隊(duì)發(fā)表了《A global workspace in language models》，通過名為J透鏡的工具在Claude內(nèi)部識別出一個可被觀測、可被干預(yù)且具有因果效力的神經(jīng)活動區(qū)域——J-Space。

這一發(fā)現(xiàn)之所以引發(fā)廣泛關(guān)注，在于它使研究者得以窺見模型推理過程中的「內(nèi)心獨(dú)白」，標(biāo)志著可解釋性研究從對模型行為的解釋邁向了對其內(nèi)部狀態(tài)的實(shí)時觀測。

J-Space以認(rèn)知神經(jīng)科學(xué)的全局工作空間理論為解釋框架，將語言模型的推理活動類比于人類意識層面的信息處理，在方法論和認(rèn)識論層面都構(gòu)成了重要推進(jìn)，也為AI安全提供了全新的監(jiān)控維度。

然而，正因其影響深遠(yuǎn)，更有必要審慎檢視這一進(jìn)路的內(nèi)在局限。J-Space研究的根本取向是內(nèi)在主義的——它將可解釋性的核心問題設(shè)定為「理解模型內(nèi)部發(fā)生了什么」，試圖像神經(jīng)科學(xué)家用fMRI掃描人腦一樣，用J-lens掃描語言模型的神經(jīng)活動。

這一進(jìn)路預(yù)設(shè)了可解釋性的答案藏在模型「體內(nèi)」，然而一個模型的輸出是否可被理解，不僅取決于其內(nèi)部狀態(tài)的可見性，更取決于這些狀態(tài)與世界中的事態(tài)、語義規(guī)范以及使用者的認(rèn)知框架之間的關(guān)系。

僅憑觀察神經(jīng)活動來理解模型的話語，就如同僅憑觀察一個人的腦電活動來理解他所說的話——我們或許能捕捉到神經(jīng)關(guān)聯(lián)，卻未曾觸及話語的意義本身。

除此之外，J-Space借用了全局工作空間理論這一關(guān)于意識的理論來解釋語言模型，在移植過程中一種微妙的范疇錯誤悄然發(fā)生：功能層面的同構(gòu)性被誤等同于認(rèn)識論層面的等價性。

模型沒有主觀經(jīng)驗(yàn)，J-Space中的激活模式只是數(shù)學(xué)運(yùn)算的產(chǎn)物，而非任何意義上的心靈狀態(tài)。

更深層的問題在于，J-Space研究本質(zhì)上是一項(xiàng)工程導(dǎo)向的工作，它將「可解釋性」窄化為「可觀測性」和「可干預(yù)性」，然而在更廣泛的知識論傳統(tǒng)中，「解釋」的含義遠(yuǎn)比此豐富——它涉及將現(xiàn)象納入更一般的規(guī)律框架，涉及提供理由和依據(jù)，還涉及對決策正當(dāng)性的論證。

J-Space能夠告訴我們模型「在想什么」，卻無法告訴我們模型為什么以這種方式思考，它所依據(jù)的「理由」是什么，這些理由在何種意義上是「好的」理由。這些問題的答案不在神經(jīng)活動模式之中。

上述局限指向一個共同的癥結(jié)：J-Space乃至整個以神經(jīng)網(wǎng)絡(luò)為焦點(diǎn)的可解釋性研究，始終將「模型本身」作為解釋的唯 一對象，問題的起點(diǎn)和終點(diǎn)都是模型。

本文嘗試提出一種不同的視角——將可解釋性的追問從模型內(nèi)部轉(zhuǎn)向模型所處理的信息，從神經(jīng)科學(xué)的內(nèi)部主義進(jìn)路轉(zhuǎn)向知識論的「信息本體論」進(jìn)路。

這一轉(zhuǎn)換基于一個簡潔的觀察：大型語言模型本質(zhì)上是信息處理器，其輸入和輸出均為文本，而文本的意義——即我們真正需要解釋的東西——并不存在于神經(jīng)元的激活值中，而存在于這些符號與世界、與知識、與人類實(shí)踐之間的關(guān)系之中。

當(dāng)一個模型回答「巴黎是法國的首都」，我們需要解釋的不僅是模型內(nèi)部哪個區(qū)域被激活了，更是這個陳述在何種知識體系中成立，它以什么為依據(jù)，這些依據(jù)的可靠性和正當(dāng)性如何，這個回答與人類已有的地理知識之間是什么關(guān)系——這些問題無一能通過掃描神經(jīng)活動來回答。

因此，本文主張將可解釋性問題的核心從「模型如何思考」轉(zhuǎn)向「模型處理了什么樣的信息、這些信息具有怎樣的本體論地位」，從而將可解釋性的對象從模型本身擴(kuò)展至模型所嵌入的整個信息生態(tài)——包括訓(xùn)練數(shù)據(jù)的結(jié)構(gòu)、知識的表征方式、推理過程中的信息流轉(zhuǎn)，以及輸出與外部知識體系的映射關(guān)系。

以J-Space為代表的可解釋性研究將神經(jīng)科學(xué)范式引入了人工智能領(lǐng)域，其貢獻(xiàn)在于使我們得以窺見模型「內(nèi)部發(fā)生了什么」。然而這一進(jìn)路的內(nèi)在主義取向、對功能類比的依賴以及工程化視角對「解釋」概念的窄化，共同構(gòu)成了其認(rèn)識論上的三重局限。

本文認(rèn)為，要真正推進(jìn)大語言模型的可解釋性問題，需要超越對模型內(nèi)部狀態(tài)的凝視，轉(zhuǎn)而從知識論的視角出發(fā)，系統(tǒng)考察模型所處理的信息——其來源、結(jié)構(gòu)、表征方式、流轉(zhuǎn)路徑及其與外部知識體系的關(guān)系——的本體論基礎(chǔ)。正是這一視角的轉(zhuǎn)換，構(gòu)成了本文研究的出發(fā)點(diǎn)。

本體論源起

可解釋性的哲學(xué)地基

「概念無直觀則空，直觀無概念則盲」。

先拋出一個古老的哲學(xué)追問：人類究竟如何理解世界？康德在《純粹理性批判》中給出了經(jīng)典回答：他認(rèn)為人類心靈并非被動接收外界刺激，而是先天配備了十二種「純粹知性概念」（「十二范疇」）作為認(rèn)知的形式框架。

康德從人類邏輯判斷的十二種形式中推導(dǎo)出這些范疇，將其分為量、質(zhì)、關(guān)系和模態(tài)四組：量涉及「多少」，質(zhì)涉及「是什么樣」，關(guān)系涉及事物之間的聯(lián)系，模態(tài)涉及存在的方式。

康德的范疇理論本質(zhì)上是一種關(guān)于「可理解性」的本體論承諾：只有能被納入這十二種范疇框架之下的東西，才能成為知識對象；超出框架的「物自體」永遠(yuǎn)不可知。這意味著康德意義上的「本體論」不再追問世界「本身是什么」，而是追問「世界對我們呈現(xiàn)為什么」。

這對于AI可解釋性的深層啟示在于：當(dāng)我們解釋一個語言模型的輸出時，真正「可解釋」的不是內(nèi)部神經(jīng)元的物理激活，而是信息被范疇化、被結(jié)構(gòu)化為可理解知識的過程。神經(jīng)激活屬于物自體層面，模型輸出的話語意義則屬于現(xiàn)象界層面，只有被置于某種認(rèn)知結(jié)構(gòu)框架中才能被理解和評判。

本體是AI可解釋性的「鑰匙」。在分析層面，它提供了一套完備的概念框架來描述模型所處理信息的結(jié)構(gòu)化形態(tài)——我們可以追問一個陳述中是否隱含了「實(shí)體與偶性」的歸屬、「因果性」的判斷或「模態(tài)」的承諾，從而系統(tǒng)描述模型構(gòu)建了何種知識結(jié)構(gòu)，而非籠統(tǒng)地說「模型似乎理解了因果關(guān)系」。

在規(guī)范層面，它為可解釋性提供了評判標(biāo)準(zhǔn)：若模型內(nèi)部表征中確實(shí)形成了與本體相對應(yīng)的結(jié)構(gòu)化模式，其輸出就具備被理解的基礎(chǔ)；若始終無法映射到這些本體之上，則無論輸出多么流暢，在認(rèn)識論意義上都是不可解釋的。

以康德范疇作為可解釋性的哲學(xué)鑰匙，并非主張模型必須「擁有」這些范疇——康德的范疇是主體的先天認(rèn)知條件，而模型則是功能上的實(shí)現(xiàn)問題，它可能通過不同的神經(jīng)計算路徑在功能上等價地區(qū)分實(shí)體性、因果性或模態(tài)差異。

關(guān)鍵在于：可解釋性不要求模型內(nèi)在機(jī)制透明到每一個權(quán)重的程度，而要求我們能夠確認(rèn)模型在信息處理層面所形成的結(jié)構(gòu)是否映射到了人類用以理解世界的范疇框架之上。

從理論到實(shí)踐：

本體工程與大語言模型的融合

本體論提供的是關(guān)于「可理解的結(jié)構(gòu)應(yīng)當(dāng)是什么樣」的規(guī)范性回答，但這一回答本身并不自動轉(zhuǎn)化為可運(yùn)行的技術(shù)系統(tǒng)。本體論若無本體工程的支撐，便只是懸置在空中的概念游戲。

本體工程作為將哲學(xué)范疇實(shí)例化為可計算、可維護(hù)、可追溯的技術(shù)實(shí)體的實(shí)踐領(lǐng)域，構(gòu)成了從理論到應(yīng)用的必經(jīng)橋梁。

在人工智能可解釋性問題上，本體論與本體工程的關(guān)系尤顯根本：前者告訴我們應(yīng)當(dāng)追問什么樣的知識結(jié)構(gòu)，后者則負(fù)責(zé)在模型、數(shù)據(jù)和系統(tǒng)之間實(shí)際構(gòu)建起這樣的結(jié)構(gòu)。

大語言模型的出現(xiàn)，使本體工程獲得了前所未有的發(fā)展動能，也反過來提出了全新的工程挑戰(zhàn)。傳統(tǒng)本體構(gòu)建依賴領(lǐng)域?qū)＜业娜斯⑴c，流程漫長、成本高昂，且難以適應(yīng)知識更新和領(lǐng)域演變的節(jié)奏。

大語言模型憑借其從海量文本中提取語義模式和知識關(guān)聯(lián)的能力，正在從根本上重塑本體工程的實(shí)踐形態(tài)。

在類定義、關(guān)系抽取、屬性構(gòu)建等核心本體學(xué)習(xí)任務(wù)中，語言模型能夠以遠(yuǎn)超人工作業(yè)的效率完成大規(guī)模知識的結(jié)構(gòu)化提取。更為關(guān)鍵的是，語言模型在識別概念之間的層級關(guān)系、同義關(guān)系和關(guān)聯(lián)關(guān)系方面展現(xiàn)出的語義敏感度，使得本體構(gòu)建從「專家手工編制」演進(jìn)為「人機(jī)協(xié)作生產(chǎn)」乃至「自動生成式構(gòu)建」。

這種轉(zhuǎn)變的意義不僅在于效率提升——它使本體的構(gòu)建具備了前所未有的可擴(kuò)展性和領(lǐng)域覆蓋度，使得原本只有少數(shù)關(guān)鍵領(lǐng)域才能享有本體支持的局面，開始向更多垂直場景和快速變化的知識領(lǐng)域開放。

與此同時，本體工程的反向賦能同樣不可忽視。大語言模型固然強(qiáng)大，但其推理過程的不可見性、輸出的不可驗(yàn)證性以及對訓(xùn)練數(shù)據(jù)統(tǒng)計規(guī)律的依賴，共同構(gòu)成了可解釋性的根本障礙。

本體在此扮演的工程角色是多重的：它作為結(jié)構(gòu)化的知識供給者，為模型提供經(jīng)過驗(yàn)證的領(lǐng)域知識底座；作為推理的校驗(yàn)框架，對模型的輸出進(jìn)行一致性約束和邏輯校準(zhǔn)；更根本地，作為解釋的錨定結(jié)構(gòu)，使模型的每一步推理都能夠被映射到明確定義的類、屬性和關(guān)系之上。

當(dāng)一個模型的輸出可以追溯至其所依賴的本體條目，解釋便不再依賴于對神經(jīng)網(wǎng)絡(luò)內(nèi)部狀態(tài)的猜測，而是建立在對知識結(jié)構(gòu)本身的追溯之上。這正是可解釋性從「透視黑箱」向「展示知識結(jié)構(gòu)」轉(zhuǎn)變的工程基礎(chǔ)——前者在技術(shù)上面臨不可逾越的困難，后者則是一個可設(shè)計、可優(yōu)化、可驗(yàn)證的工程問題。

在這一雙向融合中，「AI友好的本體框架」成為一個關(guān)鍵的工程命題。傳統(tǒng)本體面向描述邏輯推理機(jī)設(shè)計，其語法、公理和推理機(jī)制均圍繞確定性符號推演優(yōu)化；而大語言模型的介入，從根本上改變了本體的消費(fèi)者形態(tài)與使用場景。

這一變化要求本體設(shè)計原則做出相應(yīng)調(diào)整——本體應(yīng)當(dāng)收斂其職責(zé)，專注于清晰定義領(lǐng)域中的對象、關(guān)系、行為與規(guī)則，即為模型提供推理所依賴的「語義骨架」；而具體的推理過程——規(guī)則的選取、組合與應(yīng)用——則交還給語言模型自身的泛化能力。

職責(zé)的重新劃分帶來了明確的工程收益：本體不必追求邏輯完備性而陷入復(fù)雜公理化的泥沼，而是以簡潔性和可維護(hù)性為前提，為模型輸出提供穩(wěn)定的語義坐標(biāo)。

在此框架下，本體的構(gòu)建須面向大語言模型的調(diào)用接口進(jìn)行優(yōu)化——其類定義與關(guān)系描述應(yīng)便于模型理解與使用，結(jié)構(gòu)化知識應(yīng)便于模型檢索與引用，約束規(guī)則應(yīng)便于模型進(jìn)行輸出驗(yàn)證。這樣的本體既非替代模型推理的符號引擎，亦非僅供查閱的靜態(tài)背景資料，而是嵌入推理鏈路之中、可被實(shí)時調(diào)用與追溯的解釋性基礎(chǔ)設(shè)施。

可解釋性的未來

解釋模型vs解釋影響

本文以J-Space為引，經(jīng)由康德十二范疇的哲學(xué)奠基，最終落腳于大語言模型與本體工程的融合實(shí)踐，完成了一條從神經(jīng)科學(xué)到知識論、再到工程實(shí)現(xiàn)的思想線索。

貫穿其中的核心判斷是：大語言模型的可解釋性困境，并非僅僅源于模型內(nèi)部機(jī)制的不可見性，更源于我們長久以來將「解釋」等同于「透視」的思維慣性。著名科幻作家斯坦尼斯瓦夫·萊姆在其著作《索拉里斯星》里描述了一片覆蓋整個星球、能讀取人類記憶并將其具象化的膠質(zhì)海洋，堪稱「AI黑箱」的終 極隱喻。

海洋能處理海量信息、生成超越人類預(yù)期的結(jié)果，但其底層邏輯對人類而言完全不可解碼——它既非善意亦非惡意，只是遵循著人類無法參透的自身規(guī)律。

更悲觀的是，海洋最終拒絕了人類「馴化」或理解它的一切嘗試，暗示認(rèn)知的終 極邊界或許客觀存在。這一意象恰恰警示我們：即便我們能觀測到模型「正在想什么」，也未必能理解它「為什么這樣想」。

可解釋性問題的真正難點(diǎn)，或許不在于技術(shù)手段的不足，而在于問題框架本身的窄化。

突破大語言模型可解釋性的可行路徑，不應(yīng)局限于嘗試「打開黑盒」這一單一方向，而應(yīng)同等重視乃至更加重視對模型輸出及其現(xiàn)實(shí)影響的觀察、理解與控制。

本體工程在此提供了關(guān)鍵的實(shí)踐框架：通過構(gòu)建AI友好的、可被模型調(diào)用和追溯的語義骨架，我們得以將模型的推理錨定在明確定義的知識結(jié)構(gòu)之上，使輸出所依賴的類、屬性和關(guān)系獲得可形式化描述與可追溯驗(yàn)證的工程基礎(chǔ)。

當(dāng)模型的每一個陳述都可以被映射到本體所定義的概念框架中時，「解釋」便不再是對神經(jīng)網(wǎng)絡(luò)權(quán)重的解剖，而是對知識結(jié)構(gòu)的展示；當(dāng)模型輸出的依據(jù)可以在本體層面被追溯和校驗(yàn)時，「控制」便不再是強(qiáng)行干預(yù)內(nèi)部激活，而是對信息流轉(zhuǎn)路徑的規(guī)范化管理。

這一視角的轉(zhuǎn)換將可解釋性從一項(xiàng)近乎不可能完成的技術(shù)挑戰(zhàn)，轉(zhuǎn)化為一項(xiàng)可通過工程手段持續(xù)逼近的治理目標(biāo)——它要求我們不再執(zhí)著于讓模型變得完全透明，而是致力于讓模型在現(xiàn)實(shí)世界中產(chǎn)生的影響變得可理解、可追溯、可問責(zé)。

通付盾一直在本文所探討的本體工程與可解釋性框架理念下深耕實(shí)踐，公司核心產(chǎn)品LegionSpace正是基于上述技術(shù)理念構(gòu)建。作為一個以本體為核的企業(yè)級AI基礎(chǔ)設(shè)施，LegionSpace將模型所處理的信息、所依賴的知識納入形式化本體工程，使每一次推理與決策都錨定在可解釋的知識結(jié)構(gòu)之上。

其愿景是讓本體成為AI與人類理解之間的共同語言，使可解釋性成為工程化治理現(xiàn)實(shí)。

關(guān)鍵詞 Anthropic J透鏡 人工智能 可解釋性研究