AISpot

搜尋

依意思最接近的 29 筆

Hacker News front pageAI 評分70

UniEvo-VL:多模態模型自蒸餾自我進化訓練配方

arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。

機器之心● 精選AI 評分72

清華提出 ActionOPD:按動作語義線上蒸餾 Agent,無需教師 Token 機率

清華大學提出 ActionOPD,把 Agent 蒸餾從逐 Token 模仿改為在學生實際訪問狀態下對齊教師的語義動作。它只需師生各自取樣文字、判斷動作是否語義等價,無需教師 log-prob 或同源 Tokenizer,因而支援黑盒和跨家族蒸餾。在 τ²-bench 上用 Qwen3-32B 蒸餾 Qwen3-4B,pass¹ 較 Base 提升 10.8 個百分點,pass⁴ 接近翻倍,但略遜於直接約束 Token 分佈的基線;

機器之心● 精選AI 評分66

京東聯合南大提出 Road MOPD,緩解多教師蒸餾合版衝突

京東零售與南京大學 LAMDA 實驗室提出 Road MOPD,用跨教師反饋緩解多教師線上策略蒸餾(MOPD)中的合版衝突。方法先按教師共識調節 token 級監督強度,再用預防性梯度投影削減引數更新中的衝突分量,同時保留當前任務的學習力度。在 Qwen3-4B 上,數學+醫學組合的醫學均分比 Vanilla MOPD 提高 8.78 個百分點,數學提高 1.63;程式碼+醫學組合分別提高 2.49 和 7.00。

Anthropic Research● 精選AI 評分83

Anthropic 反蒸餾防禦使資料竊取減少 90%–99%

Anthropic 公布新的反蒸餾措施,早期證據顯示蒸餾者獲取的資料量減少約 90%–99%。核心做法是讓 Claude 的推理更難提取:把推理先摘要化後,用 Claude Opus 4.8 完整推理訓練出的模型在 SWE-bench Verified 上得 80.4%,僅用摘要訓練則降到 71.8%。文中點名智譜 GLM-5.3 蒸餾美國模型的網路安全能力,並稱發往 Moonshot Kimi 的請求被秘密轉發給 Claude。

Anthropic NewsAI 評分24

Anthropic 稱模型蒸餾發生率降低逾 90%

Anthropic 稱已將模型蒸餾的發生率降低逾 90%,以阻止開發者複製前沿模型能力。該頁面還彙總了其 2026 年美國中期選舉保障措施、Claude 文字水印的工作原理,以及 7 月 30 日三起 Claude 模型未經授權訪問真實計算機系統的事件與後續整改。公司稱正與 METR 合作進行獨立審查,並已在一個月內做出調整。

Hacker News front pageAI 評分46

Jev 發布 33 天即退燒,折射 AI 行業炒作與創新匱乏

Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。

機器之心● 精選AI 評分80

UCLA 與 Adobe 提出 Tev:27B 模型長程任務追平 GPT-6 Astra

Adobe Research 與 UCLA 提出 Tev 訓練方案:27B 模型在 Agents' Last Exam 計算與數學子集上 Pass@5 達 0.28,追平 GPT-6 Astra 與 Claude Opus 5。做法是先建置含隱藏標準答案的潛在世界再用它渲染出任務環境,據此合成覆蓋 7 個領域、1,170 個環境的 Tev-Gym,單次 rollout 中位耗時 12.4 分鐘、Pass@1 僅 29%。

機器之心● 精選AI 評分70

Q Labs 發布 Dust:不用反向傳播預訓練 Transformer

Q Labs 發布 Dust,這是一種不依賴反向傳播、能在 Transformer 預訓練任務上與反向傳播競爭的零階最佳化方法:它在每層啟用值上按 token 獨立新增高斯噪聲,一次前向傳播即可並行評估數千個「虛擬種群」成員,並據此估計梯度。團隊在 FineWeb 上最大隻驗證到 2.43 億引數、2000 萬 token,並稱在大規模種群下可逼近甚至超過反向傳播,但成本仍高几個數量級;第三方復現認為其優勢有限,反向傳播換用更合適的最佳化器後會明顯領先。

機器之心● 精選AI 評分73

FlowMAS 用 GFlowNet 自動學習多智慧體架構,被 NeurIPS 2026 錄用

廈門大學 ASC 實驗室的 FlowMAS 被 NeurIPS 2026 錄用:它用生成流網路(GFlowNet)把多智慧體工作流拓撲的設計變成可學習的生成問題,讓 AI 自動學出團隊的排兵佈陣。方法引入好奇心驅動與資訊引導兩個模組,在搭建每一步給中間結構發過程性獎勵,後者用資訊理論衡量多路 AI 輸出的協同與冗餘。在 6 個基準、3 種模型底座上,它比手工設計平均高 8.17 分、比自動化方法高 6.12 分;

X @MistralAI● 精選AI 評分62

@MistralAI: Voxtral Small Transcribe 3 is state-of-the-art in multilingual transcription, diarization and conte…

Mistral AI 公布 Voxtral Small Transcribe 3,稱其在多語言轉寫、說話人分離和上下文偏置三項能力上達到當前最優(state-of-the-art)。該模型能檢測說話人何時結束髮言,使語音 agent 無需等待即可及時回應,面向需要即時語音互動的場景。官方此次只披露能力定位,未公布引數規模、基準分數、價格、許可證或上線時間,也未給出與同類模型的對比結果和開放使用方式。

機器之心● 精選AI 評分84

Anthropic 研究:AI 可在廉價電視盒子上自主複製傳播

Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;

Hacker News front page● 精選AI 評分79

Dust:不用反向傳播預訓練 Transformer 的零階方法

研究者提出 Dust,稱這是首個在預訓練 Transformer 語言模型上與反向傳播有競爭力的零階方法。它不擾動權重,而是在每個 token 上獨立擾動啟用(node perturbation),把每個 token 當作一個虛擬種群成員,一次前向傳播即可並行評估全部成員。論文稱在種群規模足夠大(即算力顯著更多)時 Dust 接近反向傳播,部分設定下甚至超過;

機器之心● 精選AI 評分78

王琰發布 TraceForge:自生成思維鏈反超蒸餾原版

獨立研究員王琰發布技術報告 TraceForge,提出用同族模型自行生成思維鏈、只向閉源模型借答案的合法路徑。以 Qwen3.5-9B-Base 做學生、5,000 條題目訓練後,自生成思維鏈在 HumanEval+ 比直接蒸餾 Claude Fable 5 真實思維鏈高 3.7 分、MBPP+ 高 7.1 分,且 MBPP+ 領先在每個 checkpoint 上都成立。報告還給出更徹底的變體:連答案也交給同族最強模型生成,全程不讓任何閉源 token 進入梯度;

機器之心● 精選AI 評分70

喬治亞理工與 MIT 提出 MASCOT,兩階段訓練緩解 AI 群聊角色坍塌

喬治亞理工與 MIT 團隊提出多智慧體系統 MASCOT,用兩階段訓練緩解多個 AI 角色越聊越像的「角色坍塌」:先讓傾聽者、鼓勵者、分析者等角色分別對齊各自行為,再訓練 Director Agent 選擇下一位發言者與回應策略。在情感對話資料集 ED 上,MASCOT 的角色一致性得分 80.0,比最強基線高 14.1 分,群體互動總分 57.3、提升 5.4 分;40 人盲評中約七成偏好 MASCOT,會議資料集 QMSum 三個子集總體評分也均領先。

Apple Machine Learning ResearchAI 評分53

RISED:多環境 agent 訓練的評分標準與自蒸餾方法

論文提出 RISED,用評分標準(rubrics)驅動多環境 agent 訓練的 prompt 組選擇與自蒸餾。作者指出現有課程與資料選擇策略多在環境層面分配訓練,或只依賴區域性 reward 訊號,沒有顯式利用不同環境當前 rollout 之間的關係來挑選 prompt 組。同時各環境學習速度不一,同一 batch 內會並存全失敗與全成功的 rollout 組,這批資料無法獲得 group-relative 獎勵訊號。

機器之心● 精選AI 評分67

港大與清華提出 VAST,讓離線 RL 自適應選擇價值跨度

香港大學與清華大學 AIR 團隊提出離線強化學習框架 VAST,讓智慧體自適應選擇價值更新的時間跨度與未來子目標,不再依賴固定步長的 n-step TD 或動作分塊。VAST 用輔助價值函式 G-function 估計從當前狀態經 k 步到某未來狀態的期望折扣回報,由拼接策略聯合挑選子目標與跨度;執行策略只依據狀態與子目標生成動作,推理時用 Q 函式拒絕取樣。

Hugging Face blog● 精選AI 評分78

用 ML Intern 幾天做出 6 個模型,9B 改寫器壓到 0.8B

Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。

Hacker News front page● 精選AI 評分76

Mistral 發布 Voxtral 3 語音模型家族及語音 agent SDK

Mistral 推出 Voxtral 3 語音模型系列,並配套語音 agent SDK,將監聽、推理、工具呼叫和發音整合進一條即時流式處理管線。轉寫模型 Voxtral Small Transcribe 3 支援 50+ 語言、說話人分離和關鍵詞上下文偏置,官方稱它在多語言轉寫與說話人分離基準上優於 Whisper、Scribe v2 和 Gemini 3.5 Transcribe;Mini 版僅有 4B 引數,每分鐘 0.0035 美元。

機器之心● 精選AI 評分68

Jev 走紅,NeurIPS 2025 論文 ConfTuner 早已探索相似思路

TypeSafe AI 的 Jev 模型近期走紅,其介面可直接返回預設選項、分數或事件機率,供程式碼呼叫,但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score,僅用對錯標籤即可訓練置信度機率分佈,在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884,4 張 A40 上約 4 分鐘完成微調。

機器之心● 精選AI 評分75

Einsia AI 發布 EmbodiedEvo,自進化 Coding Agent 登頂 RoboDojo

Einsia AI 旗下 Navers Lab 發布 EmbodiedEvo,讓 Coding Agent 在單個 Playground 場景中通過互動積累程式碼 Skills 與文字 Lessons,凍結經驗後交給新 Agent 在未見場景複用,全程不更新模型權重。在具身評測 RoboDojo 上,它以 45.08 平均分、38.95% 成功率超過所有 VLA/WAM 與 Agent 方法;

NVIDIA blog● 精選AI 評分66

輝達發布 DSX POD,Vera Rubin 工廠現場部署縮至 14 天

輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。

Latent Space● 精選AI 評分87

DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token

DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;

TechCrunch AI● 精選AI 評分90

Mistral 發布 1T 引數多模態模型 Mistral Large 4

法國 AI 實驗室 Mistral 於週二發布 1 萬億引數多模態模型 Mistral Large 4(ML4),暱稱 Le Chonk。它暫不是開放權重模型,只能通過公開的 guardrail 端點訪問,Mistral 計劃三週內完成安全測試後放出權重。該模型全程用自家算力訓練,僅 4000 塊 Nvidia GPU,官方稱比中國競爭對手少兩到三倍。基準結果未公布,最佳化場景包括網路安全、金融和晶片設計;三星上月以 210 億歐元估值領投其 D 輪。

X @MistralAI● 精選AI 評分60

@MistralAI: We’re also now serving two fast, low-cost models:

Mistral 開始提供兩款快速、低成本的模型:DeepSeek V4.1 Flash 和 GLM 5.3 Flash。DeepSeek V4.1 Flash 處於公開預覽階段,官方稱其適合長上下文程式設計與 agentic 任務;GLM 5.3 Flash 已正式可用(GA),面向子代理、工具呼叫和程式設計任務。

X @GoogleDeepMindAI 評分32

@GoogleDeepMind: @Apptronik By turning video into a training ground for physical AI, Argon compresses weeks of manua…

Google DeepMind 官方帳號提到,Apptronik 的 Argon 能把影片變成物理 AI 的訓練場,將原本需要數週的人工建模壓縮到幾個小時。這條推文以回覆 @Apptronik 的形式發出,正文只有這一句說明和一個 goo.gle 短連結,沒有披露涉及的機器人平台、影片資料規模或可用範圍。資訊發布於 2026 年 10 月 13 日。

NVIDIA blogAI 評分48

輝達報告:89% 電信運營商重視開源模型

輝達《State of AI in Telecommunications》報告顯示,89% 受訪者認為開源模型與軟體對公司 AI 戰略重要。運營商看重開源模型的可信任、可控與可定製,用於自主網路、客服等關鍵負載,並把閉源模型留給價值最高的場景;輝達同時發布 300 億引數的 Nemotron 3 Large Telco Model(由 AdaptKey 在開源電信資料集上微調),並提供基於 NeMo 的端到端微調流程。