LLM 可直接讀寫神經網路權重，新論文提出 Weight Space Programming
新論文提出 Weight Space Programming：讓大模型直接讀取並修改另一個較小模型的權重，繞開寫 PyTorch 程式碼、跑實驗、盯 loss 曲線的 autoresearch 流程。演示中模型能讀懂權重、按失敗軌跡一次修好 bug、用約 50 步朝指定方向改進，甚至從零寫出整套權重並超過部分獨立訓練的模型；目前已有獨立復現，但適用範圍仍限於簡單遊戲與 RL 策略。
首次展示 LLM 直接讀寫權重、從零生成可用網路的能力，把自動研究從寫程式碼、跑實驗壓縮到直接改權重，對關注自動化科研與模型可解釋性的人最有參考價值。
原標題：[AINews] LLMs can read & write neural network weights: "Weight Space Programming" cuts Autoresearch out of the RSI loop
閱讀原文
| 評分 | 85 / 85（平均 85，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
GPT-6 Astra 可直接讀寫權重，把 Qwen3.5-0.8B 數學成績從 7.9% 提到 48.1%
MIT CSAIL 發現，GPT-6 Astra 能直接用自然語言讀寫神經網路權重，不依賴梯度，也不用寫訓練迴圈。它僅憑 17,253 個原始權重，就以 99% 置信度判斷出網路訓練自哪個遊戲；還能從零寫出小型遊戲網路，其表現超過用 PPO 訓練 1 億步的網路。
llama.cpp b11806 支援 Prism Hadamard 摺疊權重的 LoRA
llama.cpp 發布 b11806 建置，LoRA 新增對 prism.hadamard 摺疊權重的支援（#30910），同時從 test-llama-archs 中移除了 LoRA 測試。
Mistral Large 4 開放權重：1 萬億引數，主打程式設計與安全
Mistral 開放了旗艦模型 Mistral Large 4（Le Chonk）的權重，這是一個 1 萬億引數的原生多模態模型，官方稱其為開放權重模型中程式設計能力最強、整體最強之一。相比三週前的預覽版，Terminal-Bench 4.0 提升 13 個百分點到 41%；Artificial Analysis 程式設計 Agent 指數得 48%，與 GLM-5.3 基本持平，但每任務平均少用 47% token。
LittleBit 開源亞 1-bit 量化官方實現，LittleBit-2 新增 Joint-ITQ 初始化
LittleBit 專案放出論文官方實現，可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight，推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化，通過 --use_itq 開啟，只改初始化、不增加推理開銷，並支援 SmoothSign 量化感知訓練與可選殘差分解。
llama.cpp b11729 為 Qwen3 加入雙向注意力支援
llama.cpp 發布 b11729，為 Qwen3 加入雙向注意力（bidirectional attention）與 dense_2 輸出投影支援，模型轉換指令碼 conversion/base.py 會讀取 use_bidirectional_attention 欄位。