Hacker News front page● 精選AI 評分82
研究稱神經網路本就可讀，可解釋性前景好於預期
一項新研究認為，神經網路自身的機制就是可讀的基本單元，此前被視為多義神經元與疊加現象的典型證據屬於誤讀。作者稱 InceptionV1 末層在常規架構改進後 99-100% 的神經元可解釋，模型規模跨 300 倍仍整體可讀；對 Qwen3-32B 的初步審計估計約 90% 神經元只有一項主要職責，約 7% 有兩項相關職責，僅 2-4% 尚未理解。結論是可以直接研究網路本身，不必先訓練稀疏自編碼器來解糾纏。