SpecTr-GBV 統一多草稿與塊驗證，推測解碼期望接受長度達最優
EMNLP 2026 論文 SpecTr-GBV 把推測解碼的多草稿與塊驗證統一成一個最優傳輸問題，在保持輸出分佈一致的同時最大化期望接受長度，並在條件獨立耦合類中證明其達到該上界。方法從 K 條獨立草稿中搜尋最長的可接受子塊，K=1 時退化為 GBV，K 增大時上界嚴格上升。
首次把多草稿與塊驗證統一進最優傳輸框架並給出可達到的最優性證明，對做 LLM 推理加速的研究者與推測解碼實現者提供了驗證環節的新設計思路。
原標題：EMNLP 2026 | 大模型推理如何再快一步？SpecTr-GBV统一多草稿与块验证，加速推测解码
閱讀原文
| 評分 | 66 / 70（平均 68，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
llama.cpp 為草稿模型與 MTP 加入機率取樣
llama.cpp 合併 PR #27694，為 simple draft 與 MTP 推測解碼引入機率取樣：草稿端按機率取樣，目標模型用拒絕取樣驗證，並修復草稿取樣器與目標模型共用 RNG 流等問題。新增開關控制機率草稿取樣，預設仍為貪心；語法約束請求回退到 argmax，同時支援在拒絕取樣中處理語法約束。改動由 NVIDIA 工程師參與提交，隨各平台建置一同發布。
SAGE：用結構訊號糾偏長推理，AC 例項驗證通過率近 8 倍
維吉尼亞理工、威斯康辛大學麥迪遜分校與達特茅斯學院團隊在 NeurIPS 2026 提出 SAGE，用結構訊號引導長程推理的後訓練。方法以符號閉包分析（SCA）解釋探索偏差與累積偏差，訓練時用代數稀疏化和雙曲結構引導重排候選推理步，在 12 個基準、7 個模型家族上總體優於 SFT、GRPO、EMPO 與 GRPO-PRM。在 1,190 個 Andrews–Curtis 長程例項上，Qwen3 的 Lean 驗證通過率接近基礎模型的 8 倍；
strands-decider 架構實測：編碼器延遲減半但泛化更差
AWS 工程師 Marc Brooker 用實驗比較編碼器與解碼器架構在 strands-decider 上的表現，結論是這一規模下兩者都沒有明顯優勢。編碼器-only 的 e1b 延遲中位數約 35ms，低於基於 Qwen3.5 改造的 2B 解碼器 v19 的 65ms，精度大致相當，但 prompt 變長後擴充套件性更差；
研究：LLM 用 1866 年電報體壓縮記錄可省近半 token
一份 50 篇材料、約 1300 題的新基準（Telegraph Test，程式碼與資料已開源）顯示，只需一句小寫指令讓模型用 1866 年跨大西洋電纜時代的電報體（cablese）撰寫壓縮記錄，輸出 token 可省 40%–49%，而下游模型讀取這些記錄的準確率不低於明文（恢復比 0.99–1.10）。GLM-5.3-Flash 自身省 48.4%，qwen3.8-27b 省 48.9%，gemma-4-31b 省 40.4%；
PaperBenchX 發布：GPT-6 Astra 完整復現率僅 13.98%
UniPat AI 發布 PaperBenchX，稱其為國際上首個多學科端到端論文結果復現基準，從 93 篇論文建置 93 個復現任務，橫跨電磁、光子、化學、材料、生物、機器人等 12 個研究方向和 10 種領域原生科學環境，含 3168 條專家校驗評分項。在這 93 個任務上，表現最強的 GPT-6 Astra 完整復現率只有 13.98%，建模與執行階段平均得分約 62%，驗證階段僅 42.8%。