MLX 發布 v0.31.3,修復快取與工具呼叫多個 bug
MLX 在 2026-04-22 發布補丁版 v0.31.3,以大量 bug 修復為主,並新增執行緒本地生成流(thread local generation stream),配合 MLX v0.31.2。修復覆蓋 BatchKVCache、BatchRotatingKVCache 與 ArraysCache 的 batch 維度不匹配,以及服務端並行工具呼叫、MiniMax M2 並行工具呼叫和 Mistral 空 tool_call_end 導致的工具呼叫中斷。
對準備用 Mac Studio 本地跑模型的讀者,快取維度與並行工具呼叫的修復會直接影響 MLX 推理穩定性和 agent 可靠性,部署前值得升級。
原標題:v0.31.3
閱讀原文
| 評分 | 62 / 68(平均 65,門檻 60) |
|---|---|
| 狀態 | 精選(舊聞,已歸檔) |