港大 RaPO 改進 GRPO,視覺持續學習遺忘率降至 4.69%
香港大學團隊提出強化微調演算法 RaPO,在 Qwen2-VL-2B 的 ImageNet-R 十任務類增量學習上把最終準確率從標準 GRPO 的 74.67% 提升到 85.92%,遺忘率從 20.02% 降到 4.69%。該工作指出 GRPO 存在「軌跡級漂移不可知」缺陷,用按軌跡 KL 漂移計算的 Retention Reward 加上跨任務 EMA 優勢歸一化 CTAN,重塑信用分配。
首次揭示 GRPO 在無回放視覺持續學習中的軌跡漂移缺陷,並給出即插即用的獎勵重塑方案,五個基準實測遺忘率大幅下降,對多模態微調與持續學習研究者有用。
原標題:NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源
閱讀原文
| 評分 | 68 / 72(平均 70,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
浙大聯合 TeleAI 提出 GR-BC,用圖搜尋給機器人動作重加權
浙江大學沈春華團隊聯合中國電信 TeleAI 等提出 GR-BC(圖重加權行為克隆):把同一任務的多次不完美示範連成一張圖,從成功終點反向搜尋,算出各狀態到成功還剩多少步,並據此給動作塊加權,之後再訓練 VLA 策略;該工作已被 CoRL 2026 接收。在四孔零件裝配、顯示卡插裝、雙螺釘擰緊與記憶體模組插裝四項真機任務上,以 X-VLA 為骨幹的平均成功率約 91%,而類 DAgger 等權聚合基線為 64%。方法不改模型架構,權重直接乘在原有監督損失上;
港大與清華提出 VAST,讓離線 RL 自適應選擇價值跨度
香港大學與清華大學 AIR 團隊提出離線強化學習框架 VAST,讓智慧體自適應選擇價值更新的時間跨度與未來子目標,不再依賴固定步長的 n-step TD 或動作分塊。VAST 用輔助價值函式 G-function 估計從當前狀態經 k 步到某未來狀態的期望折扣回報,由拼接策略聯合挑選子目標與跨度;執行策略只依據狀態與子目標生成動作,推理時用 Q 函式拒絕取樣。
港科大與華為提出 BalanceRoute,96 卡解碼吞吐提升約 15%
香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute,用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B(W8A8)、8 個解碼單元的主實驗中,採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%,輸出 token 間隔的尾部延遲同時下降,單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。
明略科技與中科院開源首個自修改視覺骨幹 VisionHOPE
明略科技與中國科學院自動化研究所聯合提出 VisionHOPE,稱其為首個以自修改學習系統為核心的通用視覺骨幹網路,程式碼、底層運算元與預訓練權重已按 MIT 協議開源。模型在單次前向計算中一邊讀圖、一邊更新決定特徵關聯、學習步長與記憶保留的規則,由五類可更新記憶協同完成。VisionHOPE-S 以 52.9M 引數在 ImageNet-1K 取得 85.2% Top-1 準確率,引數量不到 VMamba-B 的六成、準確率高 1.3 個百分點;
浙大北大 SPADER 被 EMNLP 2026 主會錄用:步驟級 GRPO 提升多答案問答召回
浙大與北大團隊的 SPADER 被 EMNLP 2026 主會錄用,它把 GRPO 的軌跡級優勢細化到步驟級(step-wise GRPO),並加入多樣性感知探索獎勵,用於多答案問答的長尾覆蓋。搜尋階段按組內檢索頻率給新發現的實體加權:頭部實體被稀釋,獨有長尾發現獎勵最高。在四個基準、Llama3.1-8B 與 Qwen3-8B 兩種基座上 F1 全部第一,QAMPARI 上相對 PPO、GRPO 最高提升 86.1%。