AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

MLX LM releasesAI 評分56

推理框架 v0.32.0 發布,新增 816B NVFP4 MoE 模型與 MiniCPM5 工具解析器

推理框架 v0.32.0 發布,最值得注意的是新增 meta-models/Muse-Spark-Open-816B-A42B-NVFP4 模型支援,併為 NVFP4 量化 MoE 加入全域性縮放。同版本還新增 MiniCPM5 工具呼叫解析器、Hadamard 旋轉的 2-bit Qwen3.5(prism_hadamard_qwen35)、Qwen3.5 並行 head,並支援未轉換的模型權重。

MLX LM releasesAI 評分56

MLX 發布 v0.31.2,新增 Gemma 4 支援與快取最佳化

MLX 發布 v0.31.2,新增 Gemma 4 模型支援及其工具呼叫解析器,並加入 Nemotron super 支援。本次更新為非可裁剪快取引入系統提示與使用者訊息快取,重構批次生成器,修復推測解碼輸出損壞、GatedDeltaNet 快取記憶體洩漏等問題,同時新增伺服器 --allowed-origins 引數。