NVIDIA Nemotron 3.5 Lightning 上線 Ollama,30B 總引數僅 3B 啟用
NVIDIA 於 2026 年 8 月 11 日發布 Nemotron 3.5 Lightning,並已上線 Ollama,可完全在本地裝置執行。該模型為 30B 總引數、每 token 僅 3B 啟用的開放模型,採用混合 MoE 架構,支援最高 1M token 上下文,面向持續執行的 agent 任務。
找到 11 筆
NVIDIA 於 2026 年 8 月 11 日發布 Nemotron 3.5 Lightning,並已上線 Ollama,可完全在本地裝置執行。該模型為 30B 總引數、每 token 僅 3B 啟用的開放模型,採用混合 MoE 架構,支援最高 1M token 上下文,面向持續執行的 agent 任務。
Ollama 上線 NVIDIA Nemotron 3.5 Bolt 74B-A9B,官方稱其採用原生 2-bit 量化,可壓進 24GB 記憶體,並能與其他應用同時執行。該模型是視覺語言模型(VLM),定位是在本地處理日常 agentic 任務。執行 ollama run nemotron-3.5-bolt 即可拉取執行。
NVIDIA Nemotron 3.5 Super VL 現已在 Ollama 上線,可用 ollama run nemotron-3.5-super 直接拉取執行。該模型同時具備推理與視覺理解能力,覆蓋多種 agent 工作流。官方稱在單張 GPU 上,它的 agent 任務吞吐量最高可達同尺寸其他開源模型的 5 倍。
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
Ollama v0.40.5 新增 NVIDIA Nemotron 3.5 Super 與 Nemotron 3.5 Bolt 兩個模型支援。Super 是面向編碼、推理、工具呼叫與文件理解的視覺語言模型,採用 120B 引數混合 Mamba-2/Transformer MoE 架構、每 token 啟用 12B,搭配 C-RADIO 視覺編碼器,支援工具呼叫、思考模式開關和最高 1M tokens 上下文;
Ollama 官方放出 Nemotron-3.5-Super 的模型頁面,該模型已進入 Ollama 模型庫(ollama.com/library/nemotron-3.5-super)。這是本次訊息中唯一的官方資訊,頁面是檢視該模型可用版本與執行方式的入口,具體引數量、量化規格與硬體需求需以頁面內容為準。
Ollama 官方 X 帳號發布了 Nemotron-3.5-Bolt 的模型頁面連結,該模型已出現在 Ollama 模型庫中,地址為 ollama.com/library/nemotron-3.5-bolt。這一頁面是 Ollama 使用者檢視模型名稱、拉取命令與規格資訊的入口。不過這條訊息本身沒有披露引數量、上下文長度、許可協議或硬體要求等細節。
NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。
NVIDIA 的 Nemotron 3.5 Super VL 已在 LM Studio 上線,可直接在本地下載執行。該模型為 120B 總引數、12B 啟用引數的 MoE 架構,支援視覺輸入與推理,並針對視覺理解和工具呼叫做了訓練。官方提示本地執行約需 70GB 記憶體,模型頁面位於 lmstudio.ai。
輝達發布 Nemotron 3.5 系列開源權重模型,含 1200 億引數的企業 agent 模型 Super VL,以及面向本地 AI PC 和 DGX Spark 工作站的輕量 Bolt。輝達稱 Super VL 引數少於 Nemotron 3 Ultra,但在指令遵循與工具呼叫上準確率相近;針對文件智慧、財務、科研、醫保理賠等 agent 任務做後訓練後,完成任務快於 Anthropic 與 OpenAI 競品。
輝達發布 1200 億引數開源模型 Nemotron 3.5 Super VL,主打多模態 agentic 任務,官方稱其準確率接近自家最大推理模型、引數量約為五分之一,吞吐量最高達同類模型 5 倍。同時推出兩款邊緣模型:Bolt 74B-A9B 24GB 採用原生 2-bit 量化,可在 RTX/DGX Spark 的 24GB 記憶體內本地執行 agent,現已可用;Bolt E4B 4GB 面向 GeForce RTX、Jetson 等裝置,10 月 23 日發布。