京東聯合南大提出 Road MOPD,緩解多教師蒸餾合版衝突
京東零售與南京大學 LAMDA 實驗室提出 Road MOPD,用跨教師反饋緩解多教師線上策略蒸餾(MOPD)中的合版衝突。方法先按教師共識調節 token 級監督強度,再用預防性梯度投影削減引數更新中的衝突分量,同時保留當前任務的學習力度。在 Qwen3-4B 上,數學+醫學組合的醫學均分比 Vanilla MOPD 提高 8.78 個百分點,數學提高 1.63;程式碼+醫學組合分別提高 2.49 和 7.00。
針對多教師蒸餾中教師風格差異引發的引數更新衝突,給出可復現的協調方案,並公開醫學均分提升 8.78 個百分點的實測資料;對做多領域能力合版與蒸餾的團隊有直接參考。
原標題:老师各有所长,合版却起冲突?京东×南大提出Road MOPD缓解风格与跨领域学习干扰
閱讀原文
| 評分 | 68 / 64(平均 66,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
清華提出 ActionOPD:按動作語義線上蒸餾 Agent,無需教師 Token 機率
清華大學提出 ActionOPD,把 Agent 蒸餾從逐 Token 模仿改為在學生實際訪問狀態下對齊教師的語義動作。它只需師生各自取樣文字、判斷動作是否語義等價,無需教師 log-prob 或同源 Tokenizer,因而支援黑盒和跨家族蒸餾。在 τ²-bench 上用 Qwen3-32B 蒸餾 Qwen3-4B,pass¹ 較 Base 提升 10.8 個百分點,pass⁴ 接近翻倍,但略遜於直接約束 Token 分佈的基線;
UniEvo-VL:多模態模型自蒸餾自我進化訓練配方
arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。
港科大與華為提出 BalanceRoute,96 卡解碼吞吐提升約 15%
香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute,用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B(W8A8)、8 個解碼單元的主實驗中,採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%,輸出 token 間隔的尾部延遲同時下降,單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。
清華提出 Jev-LDE:ICL 範例只編輯一次,1-shot 準確率升至 88.1%
清華大學自動化系研究者提出 Local Demonstration Editing(LDE)與小型編輯模型 Jev-LDE,在目標 LLM 推理前對已檢索出的 demonstration set 只做一次 Keep、Delete 或 Replace 編輯,而非重新搜尋最優範例組合。
浙大北大 SPADER 被 EMNLP 2026 主會錄用:步驟級 GRPO 提升多答案問答召回
浙大與北大團隊的 SPADER 被 EMNLP 2026 主會錄用,它把 GRPO 的軌跡級優勢細化到步驟級(step-wise GRPO),並加入多樣性感知探索獎勵,用於多答案問答的長尾覆蓋。搜尋階段按組內檢索頻率給新發現的實體加權:頭部實體被稀釋,獨有長尾發現獎勵最高。在四個基準、Llama3.1-8B 與 Qwen3-8B 兩種基座上 F1 全部第一,QAMPARI 上相對 PPO、GRPO 最高提升 86.1%。