AISpot

搜尋

找到 11 筆

X @ollama● 精選AI 評分77

Nemotron 3.5 Bolt 74B-A9B 上架 Ollama,原生 2-bit 量化只需 24GB

Ollama 上線 NVIDIA Nemotron 3.5 Bolt 74B-A9B,官方稱其採用原生 2-bit 量化,可壓進 24GB 記憶體,並能與其他應用同時執行。該模型是視覺語言模型(VLM),定位是在本地處理日常 agentic 任務。執行 ollama run nemotron-3.5-bolt 即可拉取執行。

X @ollama● 精選AI 評分66

NVIDIA Nemotron 3.5 Super VL 上線 Ollama,單卡吞吐提升 5 倍

NVIDIA Nemotron 3.5 Super VL 現已在 Ollama 上線,可用 ollama run nemotron-3.5-super 直接拉取執行。該模型同時具備推理與視覺理解能力,覆蓋多種 agent 工作流。官方稱在單張 GPU 上,它的 agent 任務吞吐量最高可達同尺寸其他開源模型的 5 倍。

Ollama releases● 精選AI 評分79

Ollama v0.40.5 支援 NVIDIA Nemotron 3.5 Super 與 Bolt 模型

Ollama v0.40.5 新增 NVIDIA Nemotron 3.5 Super 與 Nemotron 3.5 Bolt 兩個模型支援。Super 是面向編碼、推理、工具呼叫與文件理解的視覺語言模型,採用 120B 引數混合 Mamba-2/Transformer MoE 架構、每 token 啟用 12B,搭配 C-RADIO 視覺編碼器,支援工具呼叫、思考模式開關和最高 1M tokens 上下文;

X @ollamaAI 評分35

Ollama 上架 Nemotron-3.5-Bolt 模型頁面

Ollama 官方 X 帳號發布了 Nemotron-3.5-Bolt 的模型頁面連結,該模型已出現在 Ollama 模型庫中,地址為 ollama.com/library/nemotron-3.5-bolt。這一頁面是 Ollama 使用者檢視模型名稱、拉取命令與規格資訊的入口。不過這條訊息本身沒有披露引數量、上下文長度、許可協議或硬體要求等細節。

NVIDIA blog● 精選AI 評分91

RTX Spark 筆記本 10 月 16 日上市,Nemotron 3.5 Bolt 74B 同步發布

NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。

X @lmstudio● 精選AI 評分77

@lmstudio: Nemotron 3.5 Super VL from @NVIDIAAI is live in LM Studio!

NVIDIA 的 Nemotron 3.5 Super VL 已在 LM Studio 上線,可直接在本地下載執行。該模型為 120B 總引數、12B 啟用引數的 MoE 架構,支援視覺輸入與推理,並針對視覺理解和工具呼叫做了訓練。官方提示本地執行約需 70GB 記憶體,模型頁面位於 lmstudio.ai。

TechCrunch AI● 精選AI 評分79

輝達發布 Nemotron 3.5 開源模型,覆蓋企業 agent 與本地 AI PC

輝達發布 Nemotron 3.5 系列開源權重模型,含 1200 億引數的企業 agent 模型 Super VL,以及面向本地 AI PC 和 DGX Spark 工作站的輕量 Bolt。輝達稱 Super VL 引數少於 Nemotron 3 Ultra,但在指令遵循與工具呼叫上準確率相近;針對文件智慧、財務、科研、醫保理賠等 agent 任務做後訓練後,完成任務快於 Anthropic 與 OpenAI 競品。

NVIDIA blog● 精選AI 評分87

輝達開源 Nemotron 3.5 Super VL 與兩款 Bolt 邊緣模型

輝達發布 1200 億引數開源模型 Nemotron 3.5 Super VL,主打多模態 agentic 任務,官方稱其準確率接近自家最大推理模型、引數量約為五分之一,吞吐量最高達同類模型 5 倍。同時推出兩款邊緣模型:Bolt 74B-A9B 24GB 採用原生 2-bit 量化,可在 RTX/DGX Spark 的 24GB 記憶體內本地執行 agent,現已可用;Bolt E4B 4GB 面向 GeForce RTX、Jetson 等裝置,10 月 23 日發布。