MLX LM releases● 精選2/4 21:27AI 評分79
MLX LM 發布 v0.30.6,新增 Kimi-K2.5 與服務端分散式推理
MLX LM v0.30.6 發布,支援 Transformers v5,並新增 Kimi-K2.5、LongCat Flash、LongCat Flash Lite、Step 3.5 Flash 等模型。服務端加入分散式推理支援,也可載入自定義模型。同時修復了 DeepSeek V3.2、GLM 4.7 工具呼叫與量化相關問題。
找到 2 筆
MLX LM v0.30.6 發布,支援 Transformers v5,並新增 Kimi-K2.5、LongCat Flash、LongCat Flash Lite、Step 3.5 Flash 等模型。服務端加入分散式推理支援,也可載入自定義模型。同時修復了 DeepSeek V3.2、GLM 4.7 工具呼叫與量化相關問題。
MLX 發布 v0.31.2,帶來 Gemma 4 支援(含 tool call parser 與量化逐層載入修復)和 Nemotron-H 支援。此版本還加入不可裁剪快取的系統提示與使用者訊息快取,並重構了批次生成。