搜尋 關鍵字 語意 找到 5 筆
機器之心● 精選 10/31 03:11 AI 評分72
清華大學提出 ActionOPD,把 Agent 蒸餾從逐 Token 模仿改為在學生實際訪問狀態下對齊教師的語義動作。它只需師生各自取樣文字、判斷動作是否語義等價,無需教師 log-prob 或同源 Tokenizer,因而支援黑盒和跨家族蒸餾。在 τ²-bench 上用 Qwen3-32B 蒸餾 Qwen3-4B,pass¹ 較 Base 提升 10.8 個百分點,pass⁴ 接近翻倍,但略遜於直接約束 Token 分佈的基線;
Apple Machine Learning Research10/6 00:00 AI 評分53
論文提出 RISED,用評分標準(rubrics)驅動多環境 agent 訓練的 prompt 組選擇與自蒸餾。作者指出現有課程與資料選擇策略多在環境層面分配訓練,或只依賴區域性 reward 訊號,沒有顯式利用不同環境當前 rollout 之間的關係來挑選 prompt 組。同時各環境學習速度不一,同一 batch 內會並存全失敗與全成功的 rollout 組,這批資料無法獲得 group-relative 獎勵訊號。
Latent Space● 精選 10/27 18:40 AI 評分71
Anthropic 在 Latent Space 播客中介紹了 Claude Opus 5.5 的發布,並談到該模型的行為、評測與定價。平台工程的重點是解耦模型的“大腦”與 agent 的“手”,也就是把 harness 與 sandbox 分離,以支撐 Claude Managed Agents 的規模化執行。團隊還用 Rust 重寫了 Messages API,並通過隔離、憑證與網路控制來約束 Claude 的行為。其他話題包括蒸餾與保留思考、安全分類器與模型路由。
Hugging Face blog● 精選 10/8 00:00 AI 評分78
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
r/LocalLLaMA top of the day● 精選 10/2 20:16 AI 評分80
微軟推出 FrogNano-4B-2609,一個面向低視訊記憶體裝置的程式設計智慧體模型,基於 Qwen3.5-4B 後訓練而來。其額外訓練為純文字、聚焦倉庫級軟體工程,用約 1500 個合成 SWE 任務環境和基於可執行測試的獎勵做強化學習,不依賴更強模型的解題軌跡蒸餾。模型需配合 Leaf 工具框架生成結構化工具呼叫,產出的補丁須經人工審查、迴歸測試與安全驗證後才能使用。