MIT CSAIL 稱 GPT-6 Astra 可直接編輯神經網路權重
MIT CSAIL 團隊報告了早期實驗:GPT-6 Astra 能在不編寫訓練迴圈的情況下解讀並修改神經網路權重。在一項 Qwen 測試中,作者稱小幅改動權重就讓數學與指令遵循得分明顯提升,但結果仍屬初步。同一份資料裡,Andrej Karpathy 用 AI 程式設計工具做出影片庫 HackerTube,收錄 HN 讀者近二十年提到的 6,454 個 YouTube 影片,無帳號、自帶推薦。
MIT CSAIL 團隊於 11 月 2 日發布論文,稱 GPT-6 Astra 能直接用自然語言讀取和修改神經網路權重,全程不依賴梯度,也不允許模型編寫訓練迴圈,作者將這種方法稱為「Weight-Space Programming」。據論文,Astra 僅憑 17,253 個原始權重,就以 99% 置信度判斷出目標網路訓練自哪款遊戲;在沒有任何環境反饋的情況下從零寫出的小型遊戲網路,表現超過用 PPO 訓練 1 億步的網路。在 Qwen3.5-0.8B 上,Astra 定位到導致推理迴圈的權重問題(Qwen 自己的模型卡也曾提示該問題),只原生編輯了 0.016% 的權重;在相同取樣設定下,MATH-500 從 7.9% 提升到 48.1%,並順帶把 IFEval 提高約 3 倍。作者認為這對最佳化與可解釋性都可能有重要意義。Hacker News 次日轉載的版本則把這批結果描述為早期實驗、結論仍屬初步。對在本地跑小模型的人來說,這意味著不重訓、只改極少量權重就可能顯著改善推理表現,但目前仍是論文層面的初步結果。
AI 根據 2 則報導生成 · 更新
沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。
MIT CSAIL 團隊報告了早期實驗:GPT-6 Astra 能在不編寫訓練迴圈的情況下解讀並修改神經網路權重。在一項 Qwen 測試中,作者稱小幅改動權重就讓數學與指令遵循得分明顯提升,但結果仍屬初步。同一份資料裡,Andrej Karpathy 用 AI 程式設計工具做出影片庫 HackerTube,收錄 HN 讀者近二十年提到的 6,454 個 YouTube 影片,無帳號、自帶推薦。
MIT CSAIL 發現,GPT-6 Astra 能直接用自然語言讀寫神經網路權重,不依賴梯度,也不用寫訓練迴圈。它僅憑 17,253 個原始權重,就以 99% 置信度判斷出網路訓練自哪個遊戲;還能從零寫出小型遊戲網路,其表現超過用 PPO 訓練 1 億步的網路。
過去 48 小時,有 1 個獨立來源報導,最近 6 小時新增 0 個。熱度 0.8,熱門榜第 41 名。
熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。
同一事件的報導集中在這裡,新的進展會繼續補充。