MLX LM releases● 精選2/4 21:27AI 評分79
MLX LM 發布 v0.30.6,新增 Kimi-K2.5 與服務端分散式推理
MLX LM v0.30.6 發布,支援 Transformers v5,並新增 Kimi-K2.5、LongCat Flash、LongCat Flash Lite、Step 3.5 Flash 等模型。服務端加入分散式推理支援,也可載入自定義模型。同時修復了 DeepSeek V3.2、GLM 4.7 工具呼叫與量化相關問題。
找到 4 筆
MLX LM v0.30.6 發布,支援 Transformers v5,並新增 Kimi-K2.5、LongCat Flash、LongCat Flash Lite、Step 3.5 Flash 等模型。服務端加入分散式推理支援,也可載入自定義模型。同時修復了 DeepSeek V3.2、GLM 4.7 工具呼叫與量化相關問題。
Kimi 推出 Agent Swarm,讓模型自行組建多代理組織。Kimi K2.5 可並行部署最多 100 個子代理、執行超 1500 次工具呼叫,速度比順序執行為 4.5 倍。適用於大規模檢索、批次文件處理與多視角分析。
Kimi K2.6 已開源,可通過 Kimi.ai、Kimi App、API 與 Kimi Code 使用。它在長程編碼任務上明顯優於 K2.5:在 Mac 上本地部署 Qwen3.5-0.8B 並用 Zig 重寫推理,經 12 小時、4000+ 次工具呼叫後吞吐從約 15 提升到約 193 tokens/秒,比 LM Studio 快約 20%。
Kimi 團隊發布 WorldVQA 基準,用 3500 組圖文問答、9 個類別評測多模態大模型的視覺世界知識,並區分常見與長尾知識。前沿模型在長尾視覺知識上準確率常低於 50%。所有被測模型都過度自信,表現最好的 Kimi-K2.5 的 ECE 為 37.9%、Slope 為 0.550;資料集與評測指令碼已開源。