AISpot
所屬事件:輝達開源 Nemotron 3.5 Super VL 與兩款 Bolt 邊緣模型(3 個來源 · 3 則報導)

10 月 15 日,輝達發布開源多模態模型 Nemotron 3.5 Super VL,並同時推出兩款面向邊緣與本地部署的 Bolt 模型。據輝達部落格,Super VL 為 1200 億引數模型,主打多模態 agentic 任務,在指令跟隨、工具呼叫、多步業務流程與視覺理解上的準確率接近其自家最大推理模型,而引數量約… 看完整事件

Ollama v0.40.5 支援 NVIDIA Nemotron 3.5 Super 與 Bolt 模型

Ollama releases版本更新模型產品與方案開發工具地端推論

Ollama v0.40.5 新增 NVIDIA Nemotron 3.5 Super 與 Nemotron 3.5 Bolt 兩個模型支援。Super 是面向編碼、推理、工具呼叫與文件理解的視覺語言模型,採用 120B 引數混合 Mamba-2/Transformer MoE 架構、每 token 啟用 12B,搭配 C-RADIO 視覺編碼器,支援工具呼叫、思考模式開關和最高 1M tokens 上下文;

該版本把 Nemotron 3.5 Super/Bolt 納入 Ollama 本地執行,Bolt 以 74B 蒸餾版適配 24GB NVIDIA GPU,對在本地跑 agentic 模型的開發者有直接參考價值。

原標題:v0.40.5
閱讀原文

同一事件共有 3 則報導(3 個來源),看事件全貌

評分80 / 78(平均 79,門檻 60)
狀態精選

全文翻譯

NVIDIA Nemotron 3.5 Super NVIDIA Nemotron 3.5 Super 是一個用於編碼、推理、工具使用和文件理解的視覺語言模型。它將一個 120B 引數的混合 Mamba-2/Transformer 專家混合骨幹(每個 token 啟用 12B)與 C-RADIO 視覺編碼器配對,並支援工具呼叫、開/關思考模式,以及最多 1M token 的上下文。 ollama run nemotron-3.5-super 一個緊湊型兄弟模型 Nemotron 3.5 Bolt 將 Super 蒸餾到 74B 引數(啟用 9B),經過調優以適配 24 GB NVIDIA GPU,用於日常智慧體任務,並通過其內建的 drafter 進行推測解碼。 變更內容 - 決策模型現已在雲端提供 — 使用 clef:cloud 和 clef-flash:cloud 通過 ollama.com 雲執行決策模型,而無需在本地拉取它們 - 繼續一個包含自訂工具呼叫的 OpenAI 相容 Responses 對話時,不再會因錯誤而失敗 - 當雲端訪問失敗時,錯誤訊息更清晰:登入問題、桌面應用中的支付問題,以及來自 ChatGPT 閘道器的上游訪問錯誤,現在都會解釋出了什麼問題 - 更新了 llama.cpp(新增 Nemotron 3.5 支援)和 MLX 新貢獻者 - @willietran 在 #18986 中做出了首次貢獻 完整變更日誌:v0.40.4...v0.40.5

由 AI 翻譯,以原文為準。

原文
NVIDIA Nemotron 3.5 Super NVIDIA Nemotron 3.5 Super is a vision-language model for coding, reasoning, tool use, and document understanding. It pairs a 120B-parameter hybrid Mamba-2/Transformer mixture-of-experts backbone (12B active per token) with a C-RADIO vision encoder, and supports tool calling, an on/off thinking mode, and context up to 1M tokens. ollama run nemotron-3.5-super A compact sibling, Nemotron 3.5 Bolt , distills Super down to 74B parameters (9B active) tuned to fit a 24 GB NVIDIA GPU for everyday agentic tasks, with speculative decoding via its included drafter. What's Changed Decision models are now available on cloud — use clef:cloud and clef-flash:cloud to run decision models through ollama.com cloud without pulling them locally Continuing an OpenAI-compatible Responses conversation that includes custom tool calls no longer fails with an error Clearer error messages when cloud access fails: sign-in problems, payment issues in the desktop app, and upstream access errors from the ChatGPT gateway now explain what went wrong Updated llama.cpp (adding Nemotron 3.5 support) and MLX New Contributors @willietran made their first contribution in #18986 Full Changelog : v0.40.4...v0.40.5

相關報導

Ollama releasesAI 評分41

Ollama v0.40.3 暫停後臺模型升級以改善請求效能

Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。

Ollama releases● 精選AI 評分82

Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

Ollama releasesAI 評分45

v0.40.4

Ollama 發布 v0.40.4,把 llama.cpp 升級到 b11521,新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中,Codex 的 /model 選擇器現在會列出本機已安裝的模型;服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題,MLX 與 MLX-C 同步做了版本號提升。

Ollama releasesAI 評分43

v0.40.1

Ollama 發布 v0.40.1,服務端新增代理雲端用量與餘額 API,客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除,修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題,並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁,文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。