搜尋

分析指 Astra 改寫 Qwen 權重提分的說法具誤導性

有分析拆解「Astra 能讀寫權重來改進 Qwen」一帖，指出其頭條結論並非「僅靠讀取原始權重」。Qwen3.5-0.8B 數學實驗實際用 Python 分析並修改權重，還讓模型跑了最多 50 批練習題；原生編輯 0.016% 權重後 MATH-500 從 7.9% 升至 48.1%，IFEval 提升 3 倍。真正只讀原始權重的只有 17K–172K 引數的小網路實驗，同類方法在 Gemma 3 270M 上失敗。