MLX 發布 v0.31.2,新增 Gemma 4 與 Nemotron-H 支援
MLX 發布 v0.31.2,帶來 Gemma 4 支援(含 tool call parser 與量化逐層載入修復)和 Nemotron-H 支援。此版本還加入不可裁剪快取的系統提示與使用者訊息快取,並重構了批次生成。
你準備用 Mac Studio 跑本地開源模型,這個版本讓 MLX 可直接跑 Gemma 4、Nemotron-H,並從批次生成重構和快取最佳化中受益。
原標題:v0.31.2
閱讀原文
| 評分 | 72 / 78(平均 75,門檻 60) |
|---|---|
| 狀態 | 精選(舊聞,已歸檔) |