GVS5H 讓五個 Qwen3.8-27B 例項協作,LiveCodeBench 達 92.4%
本地部署的開源 Qwen3.8-27B 用上 GVS5H 後,在 LiveCodeBench 最新 100 道 hard 題上的 pass@1 從 66.8% 升到 92.4%。該方法不需要訓練:同一模型開五個例項,通過共享檔案系統裡的計劃、筆記與當前解來拆解問題並協調,在固定後端上最多帶來 25.6 個百分點提升。雲端編排的 Qwen3.8 Flash Next 達到 93.0%,高於 Fable 5 的 90.4%,成本僅為其 9%。收益並不普遍,部分模型持平或變差;
免訓練的多例項編排把可自託管的 Qwen3.8-27B 在 LiveCodeBench 上從 66.8% 拉到 92.4%,並給出以 9% 成本追平 Fable 5 的路徑,對在本地跑開源模型、想壓低推理成本的人有直接參考。
原標題:Five Qwen3.8-27B models outperform Fable 5 Using GVS5H Harness
閱讀原文
| 評分 | 76 / 76(平均 76,門檻 76) |
|---|---|
| 狀態 | 精選 |
相關報導
Qwen3.8-Flash-Next 177B 在單張 RTX 5070 上跑出 11-15 tok/s
有人在 Windows 上用 llama.cpp 的專家流式方案,在單張 RTX 5070 12GB 加 32GB DDR4-2400 記憶體上執行 Qwen3.8-Flash-Next 177B(UD-IQ3_XXS),基準約 11.5 tok/s,日常對話可達 14-15 tok/s。一次長程式設計提示以 10.15 tok/s 生成 4,892 個 token,產出一個可執行的單檔案貪吃蛇遊戲。
Qwen3.8 27B 在 DGX Spark 復現文字加法實驗,169 題答對 167
有人在本地 DGX Spark 上覆現了兩年前用 GPT-4o 做過的實驗:讓模型算出大數之和、但把答案寫成英文單詞。他用 Qwen3.8-27B-Q4_K_M.gguf,經 Codex Remote(GPT-6 Astra)執行,關閉推理時每組組合跑 30 次嘗試,開啟推理後每組只跑一次,169 次裡答對 167 次。作者也公開了部分大數計算的推理過程。
Qwen3.8-27B 在 iPhone 18 神經引擎上跑出 70 tok/s 峰值
Qwen3.8-27B 已在 iPhone 18 的 Apple Neural Engine 上執行,解碼速度 15–60 tok/s;作者隨後確認 24K 上下文下 K/V 用 int8、delta net 保持 FP16,峰值可達 70 tok/s。模型基座是 PrismML 的 Bonsai-2,從 1.585 bpw 重新量化為 1.5 bpw(每 4 個權重 6 位向量量化),並加入約 2.8 bpw 的 dflash-2 草稿模型加速,代價是接受率小幅下降。
Strata 讓 125B 的 Qwen3.8-Flash-Next 在消費級顯示卡上執行
開源專案 Strata 可在普通遊戲 PC 上本地執行 125B 引數的 Qwen3.8-Flash-Next,支援聊天、寫程式碼、讀圖和接入 coding agent,資料不出本機。官方實測 RTX 5070(12GB)在 Q2_0 量化下寫答案 94 tokens/s、讀 32K 提示 2650 tokens/s;RTX 3090(24GB)預計可達 100-140 tokens/s。
Qwen3.8-Flash-Next 單使用者輸出達 685 tokens/s
阿里通義千問官方帳號轉發並祝賀 LightSeek 的 TokenSpeed 推理成績:Qwen3.8-Flash-Next 在輝達 GPU 上實現單使用者 685 output tokens/s。官方稱該結果令人印象深刻,並表示期待社群繼續釋放 Qwen 的推理潛力。這一數字指向 Qwen3.8-Flash-Next 在推理側的吞吐表現。