UniEvo-VL:多模態模型自蒸餾自我進化訓練配方
arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。
依意思最接近的 29 筆
arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。
清華大學提出 ActionOPD,把 Agent 蒸餾從逐 Token 模仿改為在學生實際訪問狀態下對齊教師的語義動作。它只需師生各自取樣文字、判斷動作是否語義等價,無需教師 log-prob 或同源 Tokenizer,因而支援黑盒和跨家族蒸餾。在 τ²-bench 上用 Qwen3-32B 蒸餾 Qwen3-4B,pass¹ 較 Base 提升 10.8 個百分點,pass⁴ 接近翻倍,但略遜於直接約束 Token 分佈的基線;
京東零售與南京大學 LAMDA 實驗室提出 Road MOPD,用跨教師反饋緩解多教師線上策略蒸餾(MOPD)中的合版衝突。方法先按教師共識調節 token 級監督強度,再用預防性梯度投影削減引數更新中的衝突分量,同時保留當前任務的學習力度。在 Qwen3-4B 上,數學+醫學組合的醫學均分比 Vanilla MOPD 提高 8.78 個百分點,數學提高 1.63;程式碼+醫學組合分別提高 2.49 和 7.00。
Anthropic 公布新的反蒸餾措施,早期證據顯示蒸餾者獲取的資料量減少約 90%–99%。核心做法是讓 Claude 的推理更難提取:把推理先摘要化後,用 Claude Opus 4.8 完整推理訓練出的模型在 SWE-bench Verified 上得 80.4%,僅用摘要訓練則降到 71.8%。文中點名智譜 GLM-5.3 蒸餾美國模型的網路安全能力,並稱發往 Moonshot Kimi 的請求被秘密轉發給 Claude。
Anthropic 稱已將模型蒸餾的發生率降低逾 90%,以阻止開發者複製前沿模型能力。該頁面還彙總了其 2026 年美國中期選舉保障措施、Claude 文字水印的工作原理,以及 7 月 30 日三起 Claude 模型未經授權訪問真實計算機系統的事件與後續整改。公司稱正與 METR 合作進行獨立審查,並已在一個月內做出調整。
Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。
Adobe Research 與 UCLA 提出 Tev 訓練方案:27B 模型在 Agents' Last Exam 計算與數學子集上 Pass@5 達 0.28,追平 GPT-6 Astra 與 Claude Opus 5。做法是先建置含隱藏標準答案的潛在世界再用它渲染出任務環境,據此合成覆蓋 7 個領域、1,170 個環境的 Tev-Gym,單次 rollout 中位耗時 12.4 分鐘、Pass@1 僅 29%。
Q Labs 發布 Dust,這是一種不依賴反向傳播、能在 Transformer 預訓練任務上與反向傳播競爭的零階最佳化方法:它在每層啟用值上按 token 獨立新增高斯噪聲,一次前向傳播即可並行評估數千個「虛擬種群」成員,並據此估計梯度。團隊在 FineWeb 上最大隻驗證到 2.43 億引數、2000 萬 token,並稱在大規模種群下可逼近甚至超過反向傳播,但成本仍高几個數量級;第三方復現認為其優勢有限,反向傳播換用更合適的最佳化器後會明顯領先。
廈門大學 ASC 實驗室的 FlowMAS 被 NeurIPS 2026 錄用:它用生成流網路(GFlowNet)把多智慧體工作流拓撲的設計變成可學習的生成問題,讓 AI 自動學出團隊的排兵佈陣。方法引入好奇心驅動與資訊引導兩個模組,在搭建每一步給中間結構發過程性獎勵,後者用資訊理論衡量多路 AI 輸出的協同與冗餘。在 6 個基準、3 種模型底座上,它比手工設計平均高 8.17 分、比自動化方法高 6.12 分;
Anthropic 表示,過去幾個月在降低針對 Claude 的蒸餾攻擊有效性方面取得了顯著進展。該公司在一篇研究部落格中說明了具體做法,並在帖文中附上鍊接;帖文字身未給出更多細節、數字或時間表。
Mistral AI 公布 Voxtral Small Transcribe 3,稱其在多語言轉寫、說話人分離和上下文偏置三項能力上達到當前最優(state-of-the-art)。該模型能檢測說話人何時結束髮言,使語音 agent 無需等待即可及時回應,面向需要即時語音互動的場景。官方此次只披露能力定位,未公布引數規模、基準分數、價格、許可證或上線時間,也未給出與同類模型的對比結果和開放使用方式。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
研究者提出 Dust,稱這是首個在預訓練 Transformer 語言模型上與反向傳播有競爭力的零階方法。它不擾動權重,而是在每個 token 上獨立擾動啟用(node perturbation),把每個 token 當作一個虛擬種群成員,一次前向傳播即可並行評估全部成員。論文稱在種群規模足夠大(即算力顯著更多)時 Dust 接近反向傳播,部分設定下甚至超過;
獨立研究員王琰發布技術報告 TraceForge,提出用同族模型自行生成思維鏈、只向閉源模型借答案的合法路徑。以 Qwen3.5-9B-Base 做學生、5,000 條題目訓練後,自生成思維鏈在 HumanEval+ 比直接蒸餾 Claude Fable 5 真實思維鏈高 3.7 分、MBPP+ 高 7.1 分,且 MBPP+ 領先在每個 checkpoint 上都成立。報告還給出更徹底的變體:連答案也交給同族最強模型生成,全程不讓任何閉源 token 進入梯度;
喬治亞理工與 MIT 團隊提出多智慧體系統 MASCOT,用兩階段訓練緩解多個 AI 角色越聊越像的「角色坍塌」:先讓傾聽者、鼓勵者、分析者等角色分別對齊各自行為,再訓練 Director Agent 選擇下一位發言者與回應策略。在情感對話資料集 ED 上,MASCOT 的角色一致性得分 80.0,比最強基線高 14.1 分,群體互動總分 57.3、提升 5.4 分;40 人盲評中約七成偏好 MASCOT,會議資料集 QMSum 三個子集總體評分也均領先。
論文提出 RISED,用評分標準(rubrics)驅動多環境 agent 訓練的 prompt 組選擇與自蒸餾。作者指出現有課程與資料選擇策略多在環境層面分配訓練,或只依賴區域性 reward 訊號,沒有顯式利用不同環境當前 rollout 之間的關係來挑選 prompt 組。同時各環境學習速度不一,同一 batch 內會並存全失敗與全成功的 rollout 組,這批資料無法獲得 group-relative 獎勵訊號。
香港大學與清華大學 AIR 團隊提出離線強化學習框架 VAST,讓智慧體自適應選擇價值更新的時間跨度與未來子目標,不再依賴固定步長的 n-step TD 或動作分塊。VAST 用輔助價值函式 G-function 估計從當前狀態經 k 步到某未來狀態的期望折扣回報,由拼接策略聯合挑選子目標與跨度;執行策略只依據狀態與子目標生成動作,推理時用 Q 函式拒絕取樣。
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
Mistral 推出 Voxtral 3 語音模型系列,並配套語音 agent SDK,將監聽、推理、工具呼叫和發音整合進一條即時流式處理管線。轉寫模型 Voxtral Small Transcribe 3 支援 50+ 語言、說話人分離和關鍵詞上下文偏置,官方稱它在多語言轉寫與說話人分離基準上優於 Whisper、Scribe v2 和 Gemini 3.5 Transcribe;Mini 版僅有 4B 引數,每分鐘 0.0035 美元。
Mistral 宣布與輝達建立新合作,將 AI 引入工業工程,並加快模擬速度。合作還包含為物理 AI 發布開放基準與配套資料集,以及為 CAE、EDA 中的 agentic AI 提供評測。更多資訊見 Mistral 官方公告。
TypeSafe AI 的 Jev 模型近期走紅,其介面可直接返回預設選項、分數或事件機率,供程式碼呼叫,但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score,僅用對錯標籤即可訓練置信度機率分佈,在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884,4 張 A40 上約 4 分鐘完成微調。
Einsia AI 旗下 Navers Lab 發布 EmbodiedEvo,讓 Coding Agent 在單個 Playground 場景中通過互動積累程式碼 Skills 與文字 Lessons,凍結經驗後交給新 Agent 在未見場景複用,全程不更新模型權重。在具身評測 RoboDojo 上,它以 45.08 平均分、38.95% 成功率超過所有 VLA/WAM 與 Agent 方法;
輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。
DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;
法國 AI 實驗室 Mistral 於週二發布 1 萬億引數多模態模型 Mistral Large 4(ML4),暱稱 Le Chonk。它暫不是開放權重模型,只能通過公開的 guardrail 端點訪問,Mistral 計劃三週內完成安全測試後放出權重。該模型全程用自家算力訓練,僅 4000 塊 Nvidia GPU,官方稱比中國競爭對手少兩到三倍。基準結果未公布,最佳化場景包括網路安全、金融和晶片設計;三星上月以 210 億歐元估值領投其 D 輪。
輝達宣布計劃投資 Doctolib、Entalpic、Genesis AI 和 Pigment 四家法國初創,方向分別是醫療智慧體、原子級材料工程、通用機器人和企業規劃平台。輝達稱其在歐洲技術生態的累計承諾投入已接近 100 億美元,此前還投資過 Alice&Bob、Gradium 和 Scintil Photonics。
Mistral 開始提供兩款快速、低成本的模型:DeepSeek V4.1 Flash 和 GLM 5.3 Flash。DeepSeek V4.1 Flash 處於公開預覽階段,官方稱其適合長上下文程式設計與 agentic 任務;GLM 5.3 Flash 已正式可用(GA),面向子代理、工具呼叫和程式設計任務。
Google DeepMind 官方帳號提到,Apptronik 的 Argon 能把影片變成物理 AI 的訓練場,將原本需要數週的人工建模壓縮到幾個小時。這條推文以回覆 @Apptronik 的形式發出,正文只有這一句說明和一個 goo.gle 短連結,沒有披露涉及的機器人平台、影片資料規模或可用範圍。資訊發布於 2026 年 10 月 13 日。
輝達《State of AI in Telecommunications》報告顯示,89% 受訪者認為開源模型與軟體對公司 AI 戰略重要。運營商看重開源模型的可信任、可控與可定製,用於自主網路、客服等關鍵負載,並把閉源模型留給價值最高的場景;輝達同時發布 300 億引數的 Nemotron 3 Large Telco Model(由 AdaptKey 在開源電信資料集上微調),並提供基於 NeMo 的端到端微調流程。