v0.40.15 預發布:新增 MiMo V2.6 模型支援
v0.40.15 預發布新增 MiMo V2.6 模型支援。該版本還讓 mlx 在 Linux 上以程序內方式載入隨包附帶的 CUDA 庫,兩項改動均由 dhiltgen 提交。版本於 11 月 3 日 22:52 發布,標註為 Pre-release,僅含 1 個 commit;完整對比範圍為 v0.40.14 至 v0.40.15-rc0,發布頁資產列表顯示 19 項。
原標題:v0.40.15
閱讀原文
| 評分 | 45 / 45(平均 45,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
v0.32.2 發布:修復 MiMo-V2-Flash 注意力縮放問題
v0.32.2 於 10 月 16 日發布,核心改動是修復 MiMo-V2-Flash 的注意力數值縮放問題。同一版本還修復了 SMM 的 mask,並更新 Muse spark 在 Hugging Face 上的名稱。發布由 michalk8 完成,@ricky-chaoju 以首次貢獻者身份提交了 MiMo-V2-Flash 的修復,完整變更記錄為 v0.32.1...v0.32.2。
llama.cpp b11540 發布:SYCL 加速 MXFP4 MoE 推理
llama.cpp 建置版本 b11540 發布,核心變更是 SYCL 後端通過算術解碼與權重重排加速 MXFP4 MoE 模型推理(PR #29809)。該版本同時提供 macOS、Linux、Windows、Android 與 openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端;
Liquid AI 的 LFM3 小模型系列上線 Ollama
Liquid AI 的新小模型系列 LFM3 已可在 Ollama 本地執行,面向本地 agent、工具呼叫與結構化輸出。系列包含 1.7B 文字模型(256K 上下文)、影像理解版 lfm3-vl、支援 18 種語言語音識別、翻譯與合成的 lfm3-audio,以及文字、影像、音訊一體的 lfm3-omni;決策模型 d1 也新增 2B 版本。目前 lfm3 與 d1 2B 僅在 rc1 的 Apple 硬體上支援,Linux、Windows 稍後跟進。
MLX 新增 Nemotron 3.5 Super,並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
llama.cpp 的 OpenVINO 後端更新至 2026.4.1 並大幅最佳化 MoE 效能
ggml-openvino 後端更新到 2026.4.1,重點最佳化 Qwen3.5 MoE 推理效能,並新增推理效能分析、預設使用遠端輸出張量、磁碟快取模型直載(cache_only)等能力。在 Arc B390 上以 q4_asym64_all 重量化執行 gemma-4-26B-A4B,pp512 從 66.16 t/s 提升到 1608.73 t/s,tg128 從 25.94 提升到 26.46 t/s,困惑度基本不變。