AISpot
熱點事件 · 持續更新

Nick Cammarata:神經網路本就可讀,可解釋性前景好於預期上升

2 則報導2 個報導來源 更新

先了解這件事AI 綜述

2026 年 10 月 15 日,一篇討論神經網路可解釋性的長文登上 Hacker News 首頁,機器之心次日報導稱作者是 OpenAI 可解釋團隊建立人 Nick Cammarata;Hacker News 的轉述未點名作者,只稱其為一項新研究。文章主張神經網路並非多義糾纏的黑箱,其自身機制就是可讀的基本單元,此前被視為多義性與疊加(superposition)證據的經典案例屬於誤讀,因此可以直接研究網路本身,不必先訓練稀疏自編碼器來解糾纏。 作者重查 InceptionV1 中同時回應貓臉與汽車前臉的神經元,認為兩者共享的是 V 形特徵,該神經元還與 V 形火焰、狐狸臉相關,圓形會把它推向負向回應;他把這種看似混雜的現象稱為「遞迴泛化」,即神經元從相鄰語義不斷長出分支。Hacker News 的版本還稱,InceptionV1 末層在常規架構改進後 99%—100% 的神經元可解釋,模型規模擴大 300 倍仍整體可讀。兩個來源都提到對 Qwen3-32B 的初步審計:約 90% 神經元只有一項主要職責,約 7% 有兩項相關職責,僅 2%—4% 尚未理解。機器之心另稱,作者在 Kimi K3 上做出已知首個萬億引數模型的歸因圖,並指出自動解釋工具會製造誤解,例如一個被標為「多義逗號神經元」的單元實際與科羅拉多州相關。 若結論成立,受影響最直接的是做機制可解釋性與 AI 安全研究的開發者和研究者,他們可以不必先解糾纏再分析。

AI 根據 2 則報導生成 · 更新

報導時間線

沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。

10月16日星期五 · 1 則

  1. 機器之心● 精選

    OpenAI 可解釋團隊建立人:神經網路並非黑箱,90% 神經元只有一個功能

    OpenAI 可解釋團隊建立人 Nick Cammarata 髮長文稱,神經網路並非多義糾纏的黑箱,疊加(superposition)假說被看錯了,可解釋性可能很快被解決。他重查 InceptionV1 中同時回應貓臉與汽車前臉的神經元,發現二者共享 V 形特徵;對 Qwen3-32B 的初步審查顯示約 90% 神經元正負兩極各有一項主要工作,約 7% 有兩項,2%—4% 未理解,並在 Kimi K3 上做出已知首個萬億引數模型歸因圖。

10月15日星期四 · 1 則

  1. Hacker News front page● 精選

    研究稱神經網路本就可讀,可解釋性前景好於預期

    一項新研究認為,神經網路自身的機制就是可讀的基本單元,此前被視為多義神經元與疊加現象的典型證據屬於誤讀。作者稱 InceptionV1 末層在常規架構改進後 99-100% 的神經元可解釋,模型規模跨 300 倍仍整體可讀;對 Qwen3-32B 的初步審計估計約 90% 神經元只有一項主要職責,約 7% 有兩項相關職責,僅 2-4% 尚未理解。結論是可以直接研究網路本身,不必先訓練稀疏自編碼器來解糾纏。

本事件熱度走勢

最高 1.6

為什麼熱

過去 48 小時,有 2 個獨立來源報導,最近 6 小時新增 1 個。熱度 1.5,熱門榜第 6 名。

熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。

事件紀錄

最早報導
最近更新

同一事件的報導集中在這裡,新的進展會繼續補充。