AISpot

MLX 發布 v0.31.2,新增 Gemma 4 與 Nemotron-H 支援

MLX LM releases4/7 23:15版本更新地端推論開源開發工具

MLX 發布 v0.31.2,帶來 Gemma 4 支援(含 tool call parser 與量化逐層載入修復)和 Nemotron-H 支援。此版本還加入不可裁剪快取的系統提示與使用者訊息快取,並重構了批次生成。

你準備用 Mac Studio 跑本地開源模型,這個版本讓 MLX 可直接跑 Gemma 4、Nemotron-H,並從批次生成重構和快取最佳化中受益。

原標題:v0.31.2
閱讀原文

評分72 / 78(平均 75,門檻 60)
狀態精選(舊聞,已歸檔)