搜尋

地端推論 Ollama Windows on Arm CUDA Toolkit 發布候選

Ollama releases10/21 20:12AI 評分32

v0.40.9-rc0: ci: switch to released WoA CTK (#19185)

Ollama 發布 v0.40.9-rc0，核心改動是把 Windows on Arm（WoA）CUDA 支援所用的 CUDA Toolkit 從預發布版切換到已正式發布的版本。維護者 dhiltgen 說明，此前一直在用 pre-release，而下載站點不穩定，因此改為跟進最新的正式版 CUDA Toolkit。該 tag 於 10 月 21 日建立，附帶 2 個建置產物；這次提交只涉及 CI 依賴，沒有模型或功能層面的變化。

Ollama releases● 精選10/8 18:30AI 評分68

Ollama v0.40.2：舊模型首次執行自動升級到 llama.cpp

Ollama v0.40.2 起，此前版本下載的模型會在首次執行時自動在後臺升級，以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份，因此已升級的模型會暫時多佔用磁碟空間，官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除，但這隻刪除備份，日後若要降級到 0.40 以前的版本，需重新拉取這些模型。

地端推論開源 Ollama llama.cpp 模型升級本地推理版本更新

X @ollama10/17 01:55AI 評分23

Ollama 11 月赴首爾，將與 FriendliAI 合作

Ollama 官方宣布將於今年 11 月前往首爾，在當地會見使用者、客戶與合作伙伴，並透露此行會與 FriendliAI 合作，更多細節稍後公布。Ollama 稱韓國是全球最具創新性的 AI 市場之一，首爾有活躍的 Ollama 社群，這趟行程已籌劃多時。

地端推論商業 Ollama 首爾韓國 FriendliAI 合作

Ollama releases10/8 01:04AI 評分43

v0.40.1

Ollama 發布 v0.40.1，服務端新增代理雲端用量與餘額 API，客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除，修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題，並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁，文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。

地端推論開源 Ollama 版本更新 llama.cpp MLX Windows

Ollama releases10/11 06:40AI 評分41

Ollama v0.40.3 暫停後臺模型升級以改善請求效能

Ollama 發布 v0.40.3，暫停了後臺模型升級，以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交，屬於行為調整：這一版本不再在後臺升級模型，以免拖慢推理與 embedding 請求。同時，ollama launch claude 不再彈出 Claude connectors 的警告，ollama launch codex 也不再提示 service tiers。

訂閱動態地端推論開源 Ollama Claude Codex 本地推理

Ollama releases10/15 15:07AI 評分48

MLX 新增 Nemotron 3.5 Super，並修復 Nemotron 多項 bug

v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題，在保留舊別名的基礎上接受官方發布的層命名，並穩定 Mamba softplus、保留 FP32 視覺歸一化。

地端推論開源 Nemotron MLX NVFP4 Vulkan 量化

X @ollama10/20 01:41AI 評分50

Ollama 雲三天免費開放 MiniMax M3.1 Flash

Ollama 與 MiniMax 合作，未來三天在 Ollama Cloud 上免費開放 MiniMax M3.1 Flash，無需本地算力即可呼叫。該服務由美國境內託管，並承諾零資料保留，即不儲存使用者請求資料。免費視窗僅限這三天，託管地區與資料策略是官方同時說明的兩項條件。

產品與方案商業 MiniMax M3.1 Flash Ollama Cloud 限時免費零資料保留

3 個來源 · 4 則報導閱讀原文

X @ollama10/20 15:22AI 評分51

Ornith 1.5 122B 上架 Ollama，支援完全本地執行

Ollama 已上架 Ornith 1.5 122B，該模型可在裝置上完全本地執行。官方給出的啟動命令為 ollama run ornith-1.5:122b，拉取後即可在本地使用。原文沒有說明量化格式、上下文長度和硬體要求等細節。

地端推論模型 Ollama Ornith 1.5 122B 本地推理 122B

X @ollama10/17 22:36AI 評分51

Ollama Cloud 確認零資料留存，託管美歐且不用於訓練

Ollama 官方確認 Ollama Cloud 始終採用零資料留存，使用者資料不會被用於訓練。該服務託管在美國和歐盟境內。對於把推理放到雲端的 Ollama 使用者，這意味著請求內容既不留存、也不進入訓練資料。

產品與方案政策與安全 Ollama Cloud 零資料保留隱私資料不用於訓練美歐託管

Ollama releases10/18 00:28AI 評分42

v0.40.7-rc0 為 MLX 後端加入 PPLX Decider v1.2 支援

v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援（#19072）。該提交實現了基於 Qwen3.5 的決策打分器，採用非因果注意力，同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0，由維護者於 10 月 17 日打上標籤。

地端推論開源 Ollama MLX Qwen3.5 PPLX Decider rc

Ollama releases● 精選10/2 18:28AI 評分72

Ollama v0.35.1 支援 Cloudflare 決策模型 Clef

Ollama 發布 v0.35.1，通過 /v1/systemone 介面支援 Cloudflare 新開源的決策模型 Clef（27B）與 Clef Flash（9B），兩者均為多模態，請求可在文字 state 之外附帶圖片，所有問題共享該狀態並聯合打分。同一版本把聯網搜尋上限從每次回應 3 次提高到 10 次，Modelfile 新增 CAPABILITY 宣告，並更新了 llama.cpp 與 MLX 引擎。

模型產品與方案 Ollama Cloudflare Clef 多模態本地推理

3 個來源 · 4 則報導閱讀原文

X @ollama10/5 19:39AI 評分28

Ollama 預告接入 Reflection AI 新開源模型

Ollama 官方帳號表示期待 Reflection AI 的新開源模型，並稱將有更多美國模型進入 Ollama。該帖未給出模型名稱、引數規模、發布時間與具體接入方式。

模型開源開源模型 Ollama Reflection AI 本地推理模型接入

5 個來源 · 8 則報導閱讀原文

X @ollama10/17 22:06AI 評分32

Ollama 向 deepseek-v4.1-flash 使用者推送更新模型

Ollama 表示正在把更新後的模型推送給使用 deepseek-v4.1-flash 的使用者，推送範圍由此擴大到該型號。公告未說明新版本號、具體改進內容與完成時間，也未提及是否影響其他模型。

模型產品與方案 Ollama DeepSeek 模型更新本地推理灰度推送

8 個來源 · 14 則報導閱讀原文

X @ollama10/20 21:42AI 評分30

Ollama 擴大美國算力，與 Crusoe 合作提供零日模型和 ZDR

Ollama 表示過去數月在美國擴大算力部署，並與 Crusoe 合作，為使用者提供零日模型和完整零資料保留（ZDR），同時保持高效能。Ollama 團隊參觀了 Crusoe 與 Redwood Materials 在內華達州的站點，稱更多細節將很快公布。

商業產品與方案 Ollama Crusoe 算力擴張 day-zero 模型 ZDR

X @ollama● 精選10/21 17:22AI 評分77

Ollama 上線 40B MoE 開源模型 Flint，主打端側程式設計

Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint，面向端側 agentic coding 場景。官方給出短上下文下的生成速度：M4 Pro MacBook Pro 上超過 125 tps，64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。

模型地端推論 Flint MoE 開源模型本地推理 agentic coding

6 個來源 · 9 則報導閱讀原文

Ollama releases● 精選10/6 18:47AI 評分82

Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

地端推論開源 Ollama MLX Apple Silicon 本地推理 Qwen

X @ollama10/15 17:06AI 評分17

Ollama 聯合創始人兼 CEO 出鏡談企業採用開源模型

Ollama 聯合創始人兼 CEO @jmorgan 在一期訪談節目中談開源模型在企業中的採用。該節目由 Ollama 官方帳號發布，並附有觀看入口。原文未披露節目中的具體客戶案例、資料或產品更新資訊。

開源地端推論 Ollama 開源模型企業採用

Ollama releases● 精選10/4 16:37AI 評分80

Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8；預發布期間會繼續測試並啟用更多模型。

地端推論開發工具 MLX Apple Silicon Ollama 本地推理

Ollama releases10/13 22:03AI 評分45

v0.40.4

Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中，Codex 的 /model 選擇器現在會列出本機已安裝的模型；服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題，MLX 與 MLX-C 同步做了版本號提升。

地端推論開源 Ollama llama.cpp MLX Codex EmbeddingGemma

1 個來源 · 3 則報導閱讀原文

Ollama blog● 精選10/13 00:00AI 評分70

Ollama Cloud 接入 Fly.io Sprites，閘道器代注入 API 金鑰

Ollama Cloud 現在可在 Fly.io Sprites 的 Linux 沙箱虛擬機器內呼叫，新增的 Ollama Connector 由 Fly.io 閘道器代注入 API 金鑰，沙箱內只暴露閘道器 URL 與 connection ID，agent 無法洩露金鑰。金鑰加密存在 Fly.io 組織下，新建 connector 預設遮蔽所有 Sprite，可按標籤、名稱字首或全部授權，且僅限沙箱內部呼叫。

產品與方案開發工具 Ollama Cloud Fly.io Sprites 沙箱 API 閘道器編碼智慧體

Ollama releases● 精選10/4 23:54AI 評分75

Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX，官方稱會繼續測試並啟用更多模型。

地端推論開發工具 MLX Apple Silicon Ollama 本地推理模型支援

Ollama releases● 精選10/6 15:08AI 評分76

Ollama v0.40.0-rc6 在 MLX 上加入多模態嵌入

Ollama 發布 v0.40.0-rc6，在 MLX runner 上實現 EmbeddingGemma2Model 架構，使本地嵌入支援多模態輸入。/api/embed 介面現在可通過 input dict 為每個條目單獨傳入媒體。該模型為 24 層雙向文字編碼器，帶 PLE，共享 gemma4 的視覺與音訊塔，輸出經 mean-pool 與 L2 歸一化。該標籤由 pdevine 於 10 月 6 日打上，對應提交 #18820，仍屬 rc 預發布版本。

模型地端推論多模態嵌入 EmbeddingGemma MLX Ollama API

8 個來源 · 12 則報導閱讀原文

Ollama releases● 精選10/6 01:53AI 評分79

Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型

Ollama 發布 v0.40.0：在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行，官方稱將繼續啟用更多模型。

地端推論開源 MLX Apple Silicon 本地推理 Qwen 版本發布