機器之心● 精選AI 評分66
京東聯合南大提出 Road MOPD,緩解多教師蒸餾合版衝突
京東零售與南京大學 LAMDA 實驗室提出 Road MOPD,用跨教師反饋緩解多教師線上策略蒸餾(MOPD)中的合版衝突。方法先按教師共識調節 token 級監督強度,再用預防性梯度投影削減引數更新中的衝突分量,同時保留當前任務的學習力度。在 Qwen3-4B 上,數學+醫學組合的醫學均分比 Vanilla MOPD 提高 8.78 個百分點,數學提高 1.63;程式碼+醫學組合分別提高 2.49 和 7.00。