Nick Cammarata：神經網路本就可讀，可解釋性前景好於預期上升

先了解這件事AI 綜述

2026 年 10 月 15 日，一篇討論神經網路可解釋性的長文登上 Hacker News 首頁，機器之心次日報導稱作者是 OpenAI 可解釋團隊建立人 Nick Cammarata；Hacker News 的轉述未點名作者，只稱其為一項新研究。文章主張神經網路並非多義糾纏的黑箱，其自身機制就是可讀的基本單元，此前被視為多義性與疊加（superposition）證據的經典案例屬於誤讀，因此可以直接研究網路本身，不必先訓練稀疏自編碼器來解糾纏。 作者重查 InceptionV1 中同時回應貓臉與汽車前臉的神經元，認為兩者共享的是 V 形特徵，該神經元還與 V 形火焰、狐狸臉相關，圓形會把它推向負向回應；他把這種看似混雜的現象稱為「遞迴泛化」，即神經元從相鄰語義不斷長出分支。Hacker News 的版本還稱，InceptionV1 末層在常規架構改進後 99%—100% 的神經元可解釋，模型規模擴大 300 倍仍整體可讀。兩個來源都提到對 Qwen3-32B 的初步審計：約 90% 神經元只有一項主要職責，約 7% 有兩項相關職責，僅 2%—4% 尚未理解。機器之心另稱，作者在 Kimi K3 上做出已知首個萬億引數模型的歸因圖，並指出自動解釋工具會製造誤解，例如一個被標為「多義逗號神經元」的單元實際與科羅拉多州相關。 若結論成立，受影響最直接的是做機制可解釋性與 AI 安全研究的開發者和研究者，他們可以不必先解糾纏再分析。

AI 根據 2 則報導生成 · 10/16 05:20 更新

本事件熱度走勢

為什麼熱

過去 48 小時，有 2 個獨立來源報導，最近 6 小時新增 1 個。熱度 1.5，熱門榜第 6 名。

熱度以 48 小時內的獨立來源計，同一來源只算一次，每 24 小時權重減半。

事件紀錄

最早報導

10/15 16:04

最近更新

10/16 02:28

同一事件的報導集中在這裡，新的進展會繼續補充。