AISpot

京東聯合南大提出 Road MOPD,緩解多教師蒸餾合版衝突

機器之心官方公告研究開源

京東零售與南京大學 LAMDA 實驗室提出 Road MOPD,用跨教師反饋緩解多教師線上策略蒸餾(MOPD)中的合版衝突。方法先按教師共識調節 token 級監督強度,再用預防性梯度投影削減引數更新中的衝突分量,同時保留當前任務的學習力度。在 Qwen3-4B 上,數學+醫學組合的醫學均分比 Vanilla MOPD 提高 8.78 個百分點,數學提高 1.63;程式碼+醫學組合分別提高 2.49 和 7.00。

針對多教師蒸餾中教師風格差異引發的引數更新衝突,給出可復現的協調方案,並公開醫學均分提升 8.78 個百分點的實測資料;對做多領域能力合版與蒸餾的團隊有直接參考。

原標題:老师各有所长,合版却起冲突?京东×南大提出Road MOPD缓解风格与跨领域学习干扰
閱讀原文

評分68 / 64(平均 66,門檻 65)
狀態精選

相關報導

機器之心● 精選AI 評分72

清華提出 ActionOPD:按動作語義線上蒸餾 Agent,無需教師 Token 機率

清華大學提出 ActionOPD,把 Agent 蒸餾從逐 Token 模仿改為在學生實際訪問狀態下對齊教師的語義動作。它只需師生各自取樣文字、判斷動作是否語義等價,無需教師 log-prob 或同源 Tokenizer,因而支援黑盒和跨家族蒸餾。在 τ²-bench 上用 Qwen3-32B 蒸餾 Qwen3-4B,pass¹ 較 Base 提升 10.8 個百分點,pass⁴ 接近翻倍,但略遜於直接約束 Token 分佈的基線;

Hacker News front pageAI 評分70

UniEvo-VL:多模態模型自蒸餾自我進化訓練配方

arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。

機器之心● 精選AI 評分79

港科大與華為提出 BalanceRoute,96 卡解碼吞吐提升約 15%

香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute,用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B(W8A8)、8 個解碼單元的主實驗中,採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%,輸出 token 間隔的尾部延遲同時下降,單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。

機器之心● 精選AI 評分72

浙大北大 SPADER 被 EMNLP 2026 主會錄用:步驟級 GRPO 提升多答案問答召回

浙大與北大團隊的 SPADER 被 EMNLP 2026 主會錄用,它把 GRPO 的軌跡級優勢細化到步驟級(step-wise GRPO),並加入多樣性感知探索獎勵,用於多答案問答的長尾覆蓋。搜尋階段按組內檢索頻率給新發現的實體加權:頭部實體被稀釋,獨有長尾發現獎勵最高。在四個基準、Llama3.1-8B 與 Qwen3-8B 兩種基座上 F1 全部第一,QAMPARI 上相對 PPO、GRPO 最高提升 86.1%。