Qwen 3.8 27B 在筆記本上僅憑模型權重識別遊戲
Simon Willison 用 LM Studio 在筆記本上執行 17GB 的 Qwen 3.8 27B,僅憑一段浮點權重文字就判斷出該網路訓練的是哪款遊戲。它花 46 分 12 秒、43,506 個推理 token 猜出 Pac-Man(置信度 72%),又用 1 小時 4 分 54 秒認出 Pong。
這是一次可復現的本地實測:27B 模型在消費級筆記本上也能只看原始權重做推斷,為在本地跑模型的人驗證了「權重空間程式設計」的可行性。
原標題:Qwen 3.8 27B on my laptop can interpret model weights, too
閱讀原文
| 評分 | 76 / 76(平均 76,門檻 76) |
|---|---|
| 狀態 | 精選 |
相關報導
Qwen3.8-27B 在 iPhone 18 神經引擎上跑出 70 tok/s 峰值
Qwen3.8-27B 已在 iPhone 18 的 Apple Neural Engine 上執行,解碼速度 15–60 tok/s;作者隨後確認 24K 上下文下 K/V 用 int8、delta net 保持 FP16,峰值可達 70 tok/s。模型基座是 PrismML 的 Bonsai-2,從 1.585 bpw 重新量化為 1.5 bpw(每 4 個權重 6 位向量量化),並加入約 2.8 bpw 的 dflash-2 草稿模型加速,代價是接受率小幅下降。
Qwen3.8-Flash-Next 177B 在單張 RTX 5070 上跑出 11-15 tok/s
有人在 Windows 上用 llama.cpp 的專家流式方案,在單張 RTX 5070 12GB 加 32GB DDR4-2400 記憶體上執行 Qwen3.8-Flash-Next 177B(UD-IQ3_XXS),基準約 11.5 tok/s,日常對話可達 14-15 tok/s。一次長程式設計提示以 10.15 tok/s 生成 4,892 個 token,產出一個可執行的單檔案貪吃蛇遊戲。
Qwen3.8 27B 在 DGX Spark 復現文字加法實驗,169 題答對 167
有人在本地 DGX Spark 上覆現了兩年前用 GPT-4o 做過的實驗:讓模型算出大數之和、但把答案寫成英文單詞。他用 Qwen3.8-27B-Q4_K_M.gguf,經 Codex Remote(GPT-6 Astra)執行,關閉推理時每組組合跑 30 次嘗試,開啟推理後每組只跑一次,169 次裡答對 167 次。作者也公開了部分大數計算的推理過程。
GVS5H 讓五個 Qwen3.8-27B 例項協作,LiveCodeBench 達 92.4%
本地部署的開源 Qwen3.8-27B 用上 GVS5H 後,在 LiveCodeBench 最新 100 道 hard 題上的 pass@1 從 66.8% 升到 92.4%。該方法不需要訓練:同一模型開五個例項,通過共享檔案系統裡的計劃、筆記與當前解來拆解問題並協調,在固定後端上最多帶來 25.6 個百分點提升。雲端編排的 Qwen3.8 Flash Next 達到 93.0%,高於 Fable 5 的 90.4%,成本僅為其 9%。收益並不普遍,部分模型持平或變差;
Qwen3.5 4B 權重內嵌 RISC-V CPU,用 GDN 層當記憶體
實驗模型 Qwenputer 在 Qwen3.5 4B 權重裡編譯進一顆 32 位 RISC-V CPU(RV32IM 加 Zba 擴充套件),以 Gated DeltaNet 注意力層的狀態矩陣當 RAM。CPU 佔模型 32 層中的前 11 層,全程不訓練,權重由編譯器直接寫入;它已通過官方 riscv-tests,程式結果與 qemu 一致,自由執行 1800 萬條指令無差錯,能跑 C 和 MicroPython,但還不到跑 Linux 的程度。