SpanUQ 提出按語義片段估計 LLM 不確定性
NeurIPS 2026 論文 SpanUQ 提出 Span-Level Uncertainty Estimation 任務，把 LLM 不確定性估計從 token 或整段回答改為按語義片段定位並打分。SpanUQ 是約 25M 引數的輕量 Probe，凍結基礎模型，利用隱狀態單次前向同時完成片段檢測與不確定性估計，避免多采樣推理。其 Span Detector 達 0.910 F1，較最強啟發式方法相對提升 39.4%；UCIR 精修額外開銷低於 15%。
提出新的 SLUE 任務，讓不確定性可定位到可獨立驗證的語義片段；25M 探針單次前向完成估計，對多 Agent 與需按 claim 驗證的下游系統有參考價值。
原標題：NeurIPS 2026 | 从Token到Span：重新思考大语言模型的不确定性估计
閱讀原文
| 評分 | 70 / 73（平均 71，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
研究：讓 LLM 自評置信度不可靠，換個問法分數就變
讓 LLM 輸出置信度分數並不可信：這類數字只是逐 token 續寫出的文字，既沒有反映模型掌握多少證據，也從未針對“答對頻率”做過校準。文章指出，可靠的置信度必須隨資訊量變化，並用大量同類預測與實際結果核對，而 LLM 的分數會在重複提問時從 0.85 變成 0.7，換個措辭或前文寫下“這顯然是正確答案”也會改變數值。作者據此提醒 agent 設計者不要依賴模型自報的置信度。
浙大北大 SPADER 被 EMNLP 2026 主會錄用：步驟級 GRPO 提升多答案問答召回
浙大與北大團隊的 SPADER 被 EMNLP 2026 主會錄用，它把 GRPO 的軌跡級優勢細化到步驟級（step-wise GRPO），並加入多樣性感知探索獎勵，用於多答案問答的長尾覆蓋。搜尋階段按組內檢索頻率給新發現的實體加權：頭部實體被稀釋，獨有長尾發現獎勵最高。在四個基準、Llama3.1-8B 與 Qwen3-8B 兩種基座上 F1 全部第一，QAMPARI 上相對 PPO、GRPO 最高提升 86.1%。
哈工大 STILL 被 NeurIPS 2026 接收，首個內容感知層內混合注意力
哈爾濱工業大學（深圳）團隊的 STILL 被 NeurIPS 2026 接收，這是首個按內容而非位置在同一注意力層內混合 Softmax 與線性注意力的框架：先用區域性滑窗內的自顯著性分數挑出重要 token 交給 Softmax，其餘交給線性注意力，並用保範數對映 NP-Map 保住預訓練範數結構。它僅用 0.04B token 完成對預訓練 LLM 的線性化，16K 上下文下視訊記憶體削減 80%、預填充加速 83%；
Spinal 發布：面向任意程式碼庫的近即時預測介面
Spinal 是面向任意程式碼庫的近即時預測介面，演示以 torvalds/linux（148 萬次提交、9.6 萬個檔案）為樣本。它能標出補丁的改動規模與影響範圍：KVM 檢查重複 vcpu_id 的提交 56 天后被回退；mm 移除 is_cow_mapping() 波及 arch、drivers、fs 等 7 個模組，+107/−38；net selftests 新增 380 行手寫程式碼覆蓋 UDP splice 校驗和分片對齊。
llama.cpp 新 PR 將 Qwen4 索引器視訊記憶體減半
llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體，把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB，262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變，僅分數因 fp32 舍入有差異；有使用者反饋解碼速度約降 10%。