清華八卦爐 2 論文入選 SC26，萬卡 MoE 訓練吞吐提升 1.14 倍
清華大學翟季冬團隊的大模型訓練系統八卦爐 2（BaGuaLu-2）論文被 SC26 錄用，它用執行時自適應替代靜態的重計算與啟用解除安裝配置，把 MoE 訓練中的視訊記憶體尖峰壓在裝置上限以內。在 128 到 12,288 張海光 DCU 上訓練 188B 至 1.04 萬億引數模型，平均吞吐比基線高 1.14 倍，12,288 卡下總吞吐 2.012 EFLOPS、平均 MFU 32.9%（最高 35%），單次排程決策開銷低於 10 ms。
在萬卡級國產 DCU 上實測萬億引數 MoE，用執行時決策替代靜態配置，1.14 倍吞吐與 2.012 EFLOPS 是可核對的數字，對自建訓練叢集、維護 MoE 流水線的團隊最有參考價值。
原標題：SC26 顶会论文：八卦炉 2—— 让万卡集群学会临场应变
閱讀原文
| 評分 | 76 / 78（平均 77，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
清華團隊開源 VeriLoop E2，以外部驗證決定推理狀態提交
清華團隊開源後訓練模型 VeriLoop E2，由獨立外部 Verifier 決定候選狀態能否獲得提交資格，而非依賴模型內部置信度。該模型以 Qwen 3.8-27B 為基礎，面向程式碼、數學與物理三類可外部驗證任務，並同步發布標準權重與覆蓋 BF16 至 IQ1_M 的 GGUF 量化版，其中 Q6_K 為 20.566 GiB，比 BF16 小 58.96%。
港科大與華為提出 BalanceRoute，96 卡解碼吞吐提升約 15%
香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute，用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B（W8A8）、8 個解碼單元的主實驗中，採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%，輸出 token 間隔的尾部延遲同時下降，單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。
UCLA 與 Adobe 提出 Tev：27B 模型長程任務追平 GPT-6 Astra
Adobe Research 與 UCLA 提出 Tev 訓練方案：27B 模型在 Agents' Last Exam 計算與數學子集上 Pass@5 達 0.28，追平 GPT-6 Astra 與 Claude Opus 5。做法是先建置含隱藏標準答案的潛在世界再用它渲染出任務環境，據此合成覆蓋 7 個領域、1,170 個環境的 Tev-Gym，單次 rollout 中位耗時 12.4 分鐘、Pass@1 僅 29%。
176B MoE 模型在 16GB 視訊記憶體筆記本上跑通
開發者用自研開源推理引擎 TensorSharp，在 RTX 3080 Laptop（16GB 視訊記憶體）+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程，把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata：解碼 11.09 對 10.24 tok/s，但整程耗時 16.54 秒對 62.15 秒。
Janas-LLM 讓 32GB 筆記本跑 48GB 的 80B MoE 模型，速度快過 llama.cpp
新的 C 語言推理引擎 Janas-LLM 把 MoE 權重留在磁碟、按 token 從 NVMe SSD 流式讀取專家，在 32 GB 記憶體的筆記本上跑起了 48.4 GB 的 Qwen3-Next-80B。