10 月 15 日,輝達發布開源模型 Nemotron 3.5 Super VL,並推出兩款面向本地裝置的 Bolt 邊緣模型。據 Ollama 介紹,Super VL 是 1200 億引數混合 Mamba-2/Transformer MoE 視覺語言模型,每 token 啟用 120 億,支援工具呼叫、思考模式開關與… 看完整事件
v0.40.10-rc0 新增 gemma4-nemotron 渲染器,並支援 MLX 上的 DFlash 草稿
v0.40.10-rc0 新增 gemma4-nemotron 渲染器:模型通過 RENDERER gemma4-nemotron 顯式啟用後,助手內容會渲染在工具呼叫之前,而不是工具返回之後;gemma4 的自動檢測邏輯保持不變。同版本為 MLX 後端加入 Gemma 4 目標模型搭配 DFlash 草稿的投機解碼支援:當配置要求時,載入草稿模型自帶的輸出頭,同時保留現有 DFlash 模型的目標頭路徑,並暴露 Gemma 4 的隱藏狀態與原始 logits。
原標題:v0.40.10-rc0: Update gemma renderers (#19241)
閱讀原文
| 評分 | 45 / 45(平均 45,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
v0.40.4
Ollama 發布 v0.40.4,把 llama.cpp 升級到 b11521,新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中,Codex 的 /model 選擇器現在會列出本機已安裝的模型;服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題,MLX 與 MLX-C 同步做了版本號提升。
Ollama v0.40.3 暫停後臺模型升級以改善請求效能
Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。
Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。