AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

機器之心● 精選AI 評分86

MIT 讓 GPT-6 Astra 改 Qwen3.5-0.8B 權重,數學成績升至 48.1%

MIT CSAIL 讓 GPT-6 Astra 直接檢查並修改 Qwen3.5-0.8B 的權重,僅改動約 0.016% 引數,就把 MATH-500 成績從 7.9% 提升到 48.1%,指令遵循能力也提升近兩倍,全程未重新訓練或使用梯度下降。團隊稱這種能力為權重空間程式設計:Astra 還能只憑權重判斷網路訓練過的遊戲、語言或生成圖形,並修復失敗策略。它也能從零編寫網路權重,在部分 MinAtar 遊戲中超過訓練 1 億步的 PPO 模型;實驗仍屬早期,規模與工具呼叫受限。

量子位● 精選AI 評分85

MIT 實驗:GPT-6 Astra 直接改 Qwen 權重,數學得分漲 6 倍

MIT 研究者讓 GPT-6 Astra 直接讀取並編輯 Qwen3.5-0.8B 的權重,只改動 0.016% 的引數、不用訓練和梯度下降,MATH-500 得分就從 7.9% 升到 48.1%,約為原來的 6 倍。這套方法被命名為 Weight-Space Programming:Astra 沿著推理迴圈定位到第 15、19 層前饋網路各 64 個輸出列,把回答觸及長度上限的比例從 93.0% 降到 33.1%,順帶把指令執行能力提高約 3 倍。