NVIDIA Nemotron 3.5 Lightning 上線 Ollama,30B 總引數僅 3B 啟用
NVIDIA 於 2026 年 8 月 11 日發布 Nemotron 3.5 Lightning,並已上線 Ollama,可完全在本地裝置執行。該模型為 30B 總引數、每 token 僅 3B 啟用的開放模型,採用混合 MoE 架構,支援最高 1M token 上下文,面向持續執行的 agent 任務。
找到 5 筆
NVIDIA 於 2026 年 8 月 11 日發布 Nemotron 3.5 Lightning,並已上線 Ollama,可完全在本地裝置執行。該模型為 30B 總引數、每 token 僅 3B 啟用的開放模型,採用混合 MoE 架構,支援最高 1M token 上下文,面向持續執行的 agent 任務。
Ollama v0.40.5 新增 NVIDIA Nemotron 3.5 Super 與 Nemotron 3.5 Bolt 兩個模型支援。Super 是面向編碼、推理、工具呼叫與文件理解的視覺語言模型,採用 120B 引數混合 Mamba-2/Transformer MoE 架構、每 token 啟用 12B,搭配 C-RADIO 視覺編碼器,支援工具呼叫、思考模式開關和最高 1M tokens 上下文;
NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。
輝達發布 1200 億引數開源模型 Nemotron 3.5 Super VL,主打多模態 agentic 任務,官方稱其準確率接近自家最大推理模型、引數量約為五分之一,吞吐量最高達同類模型 5 倍。同時推出兩款邊緣模型:Bolt 74B-A9B 24GB 採用原生 2-bit 量化,可在 RTX/DGX Spark 的 24GB 記憶體內本地執行 agent,現已可用;Bolt E4B 4GB 面向 GeForce RTX、Jetson 等裝置,10 月 23 日發布。
NVIDIA 的 Nemotron 3.5 Super VL 已在 LM Studio 上線,可直接在本地下載執行。該模型為 120B 總引數、12B 啟用引數的 MoE 架構,支援視覺輸入與推理,並針對視覺理解和工具呼叫做了訓練。官方提示本地執行約需 70GB 記憶體,模型頁面位於 lmstudio.ai。