v0.40.12 更新：MLX 新增 DFlash2 支援，Gemma 4 小圖細節改進

Ollama releases10/27 00:07版本更新地端推論開源模型

v0.40.12 為 MLX 後端新增 DFlash2 支援，這是本版最實質的功能變化；MLX 與 MLX-C 也同步升版，Gemma、Flint、Laguna 的提示處理（prompt）速度隨之提升。緊湊版 Gemma 4 視覺塔做了針對性調整，讓小尺寸圖片保留更多細節。llama.cpp 後端版本升至 b11901，屬常規跟進。更新日誌只列出條目，未給出提速幅度與適用硬體。

原標題：v0.40.12
閱讀原文

評分	45 / 44（平均 44，門檻 60）
狀態	未入選

原文

What's Changed mlx: preserve small-image detail for compact Gemma 4 vision towers by @dhiltgen in #19247 MLX, MLX-C: version bump - prompt speed up for gemma/flint/laguna by @dhiltgen in #19291 mlx: add DFlash2 support by @dhiltgen in #19149 llama.cpp: version bump b11901 by @dhiltgen in #19311 Full Changelog : v0.40.11...v0.40.12-rc0

相關報導

Ollama releases● 精選10/23 14:12AI 評分63

Ollama 新增 Nemotron 3.5 Bolt E4B 視覺模型

Ollama v0.40.10 加入 NVIDIA Nemotron 3.5 Bolt E4B，這是 NVIDIA 基於 Gemma 4 的小型視覺語言模型，面向本地對話、影像理解與工具呼叫。它支援 128K token 上下文，並自帶 DFlash 草稿模型用於投機解碼；執行 ollama run nemotron-3.5-bolt:e4b 即可執行。

模型地端推論 Nemotron 3.5 Bolt E4B 本地推理視覺語言模型 128K 上下文投機解碼

閱讀原文

Ollama releases10/12 19:00AI 評分45

v0.40.4

Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，為 decision 模型和 EmbeddingGemma 2 提供支援。MLX 與 MLX-C 版本號同步上調，並修復 MLX 推測回滾後恢復的迴圈狀態未壓縮的問題。launch 方面，Codex 的 /model 選擇器現在會列出已安裝的模型；server 端在推理路由中複用已校驗的 manifest 與已載入模型。

地端推論開源 Ollama llama.cpp MLX Codex EmbeddingGemma

1 個來源 · 3 則報導閱讀原文

llama.cpp releases10/11 19:17AI 評分45

llama.cpp b11559：OpenCL 後端為 Gemma-4 E2B/E4B 開啟 GPU 解碼

llama.cpp 建置 b11559 為 Gemma-4 啟用 E4B 的 GPU 解碼，並把該支援擴充套件到 E2B，OpenCL 後端不再只覆蓋部分型號。該版本還允許 Gemma-4 使用 DK512，最佳化 DK64 GQA8 與 DK128 GQA4 解碼，並改進 flash attention。

地端推論開源 llama.cpp OpenCL Gemma-4 GPU 推理 Qualcomm

閱讀原文

llama.cpp releases10/10 03:30AI 評分43

llama.cpp b11540 發布：SYCL 加速 MXFP4 MoE 推理

llama.cpp 建置版本 b11540 發布，核心變更是 SYCL 後端通過算術解碼與權重重排加速 MXFP4 MoE 模型推理（PR #29809）。該版本同時提供 macOS、Linux、Windows、Android 與 openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端；

地端推論開源 SYCL MXFP4 MoE llama.cpp 版本發布

閱讀原文

Ollama releases10/15 15:07AI 評分48