AISpot
所屬事件:Ollama v0.40.4 發布:終端可直接執行決策模型(1 個來源 · 3 則報導)

2026 年 10 月 12 日起,Ollama 陸續發布 v0.40.4(先以 rc0、rc1 形式出現,14 日給出完整說明)。這一版把 llama.cpp 升級到 b11521,新增對決策模型和 EmbeddingGemma 2 的支援。決策模型現在可以直接在終端呼叫:用 ollama run --ask 提出是… 看完整事件

Ollama v0.40.4 支援在終端直接執行決策模型

Ollama releases版本更新地端推論開發工具開源

Ollama v0.40.4 讓決策模型可以直接在終端呼叫:用 ollama run --ask 就能提出是非問題、把文字分類到標籤或按評分標準打分。這一版還讓 Apple silicon 的 MLX runner 支援 Kev 決策模型,ollama launch 用 usage credits 也能使用、無需升級付費方案。ollama launch codex 的模型選擇器會列出本地已安裝的 Ollama 模型,可在 Codex CLI 裡用 /model 切換;

決策模型從模型側進入終端 CLI,ollama run --ask 讓是非判斷、文字分類、評分可直接在指令碼里呼叫;ollama launch codex 也能選本地模型,對本地推理與 Codex CLI 使用者最直接。

原標題:v0.40.4
閱讀原文

同一事件共有 3 則報導(1 個來源),看事件全貌

評分68 / 72(平均 70,門檻 60)
狀態精選

全文翻譯

CLI 中的決策模型 現在可以直接在終端中使用決策模型,通過 ollama run —— 提出是/否問題、將文字分類為標籤,或根據評分標準打分: ollama run nimble --ask "Is a refund being requested?" < ticket.txt 變更內容 - Kev 決策模型現在在 Apple silicon 上受 MLX runner 支援 - ollama launch 現在可以使用用量積分,而無需升級到付費計劃 - ollama launch codex 現在在其模型選擇器中包含本地安裝的 Ollama 模型。在 Codex CLI 中使用 /model 來切換模型。 - 通過複用已驗證的清單和已載入的模型,改進了推理效能 - 通過 llama-server 新增了對多模態嵌入的支援 - 修復了載入具有小上下文視窗的多模態嵌入模型的問題 - 使用 MLX runner 改進了 Gemma 4 在 NVIDIA GPU 上的預填充效能 - MLX runner 現在會裁剪較長的 Laya 狀態,而不是拒絕它們 - 改進了 MLX runner 中推測解碼的可靠性,包括回滾後的迴圈狀態處理 - 更新了 llama.cpp,加入原生決策模型支援 - 更新了 README 和文件,隱私和雲服務相關措辭更清晰 完整變更日誌:v0.40.3...v0.40.4

由 AI 翻譯,以原文為準。

原文
Decision models in the CLI Decision models can now be used directly from the terminal with ollama run — ask yes/no questions, classify text into labels, or score against a rubric: ollama run nimble --ask "Is a refund being requested?" < ticket.txt What's Changed Kev decision models are now supported by the MLX runner on Apple silicon ollama launch can now be used with usage credits without upgrading to a paid plan ollama launch codex now includes locally installed Ollama models in its model picker. Use /model within the Codex CLI to swap models. Improved inference performance by reusing verified manifests and already loaded models Added support for multimodal embeddings through llama-server Fixed loading multimodal embedding models with small context windows Improved Gemma 4 prefill performance on NVIDIA GPUs with the MLX runner MLX runner now clips long Laya states instead of rejecting them Improved speculative decoding reliability in the MLX runner, including recurrent state handling after rollback Updated llama.cpp with native decision model support Updated README and documentation with clearer privacy and cloud-services wording Full Changelog : v0.40.3...v0.40.4

相關報導

Ollama releases● 精選AI 評分82

Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

Ollama releases● 精選AI 評分72

Ollama v0.35.1 支援 Cloudflare 決策模型 Clef

Ollama 發布 v0.35.1,通過 /v1/systemone 介面支援 Cloudflare 新開源的決策模型 Clef(27B)與 Clef Flash(9B),兩者均為多模態,請求可在文字 state 之外附帶圖片,所有問題共享該狀態並聯合打分。同一版本把聯網搜尋上限從每次回應 3 次提高到 10 次,Modelfile 新增 CAPABILITY 宣告,並更新了 llama.cpp 與 MLX 引擎。

Ollama releasesAI 評分41

Ollama v0.40.3 暫停後臺模型升級以改善請求效能

Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。

Ollama releasesAI 評分43

v0.40.1

Ollama 發布 v0.40.1,服務端新增代理雲端用量與餘額 API,客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除,修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題,並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁,文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。

Ollama releases● 精選AI 評分76

Ollama v0.40.0-rc6 在 MLX 上加入多模態嵌入

Ollama 發布 v0.40.0-rc6,在 MLX runner 上實現 EmbeddingGemma2Model 架構,使本地嵌入支援多模態輸入。/api/embed 介面現在可通過 input dict 為每個條目單獨傳入媒體。該模型為 24 層雙向文字編碼器,帶 PLE,共享 gemma4 的視覺與音訊塔,輸出經 mean-pool 與 L2 歸一化。該標籤由 pdevine 於 10 月 6 日打上,對應提交 #18820,仍屬 rc 預發布版本。