10 月 15 日,輝達發布開源 1200 億引數模型 Nemotron 3.5 Super VL,同時推出兩款 Bolt 邊緣模型。據 NVIDIA 部落格,Super VL 主打多模態 agentic 任務,準確率接近其最大推理模型、引數量約為後者五分之一,吞吐量最高達同類模型 5 倍;Bolt 74B-A9B 2… 看完整事件
NVIDIA Nemotron 3.5 Super VL 上線 Ollama,單卡吞吐提升 5 倍
NVIDIA Nemotron 3.5 Super VL 現已在 Ollama 上線,可用 ollama run nemotron-3.5-super 直接拉取執行。該模型同時具備推理與視覺理解能力,覆蓋多種 agent 工作流。官方稱在單張 GPU 上,它的 agent 任務吞吐量最高可達同尺寸其他開源模型的 5 倍。
官方給出單卡最高 5 倍吞吐這一具體數字,且模型同時覆蓋推理與視覺理解,對用 Ollama 在本地跑開源模型、做 agent 工作流的人有直接參考價值。
原標題:@ollama: NVIDIA Nemotron 3.5 Super VL is now available on Ollama
閱讀原文
| 評分 | 65 / 68(平均 66,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
MLX 新增 Nemotron 3.5 Super,並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
Ollama v0.35.1 支援 Cloudflare 決策模型 Clef
Ollama 發布 v0.35.1,通過 /v1/systemone 介面支援 Cloudflare 新開源的決策模型 Clef(27B)與 Clef Flash(9B),兩者均為多模態,請求可在文字 state 之外附帶圖片,所有問題共享該狀態並聯合打分。同一版本把聯網搜尋上限從每次回應 3 次提高到 10 次,Modelfile 新增 CAPABILITY 宣告,並更新了 llama.cpp 與 MLX 引擎。
Ollama v0.40.3 暫停後臺模型升級以改善請求效能
Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。