AISpot

搜尋

依意思最接近的 30 筆

Ollama releases● 精選AI 評分82

Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

地端推論開源OllamaMLXApple Silicon本地推理Qwen
1 個來源 · 4 則報導閱讀原文
X @ollamaAI 評分21

Ollama：敏感資料可本地跑開源模型，或用零留存雲服務

Ollama 表示，防禦性安全工作不必把敏感資料傳送到不受控的環境：開源模型可用 Ollama 在本地執行，也可使用承諾零資料留存的 Ollama 雲服務。該方案面向需要處理敏感資料的開發者和安全團隊，提供本地與雲端兩種路徑。原文未披露具體模型、價格、可用區域或合規認證等細節。

地端推論產品與方案本地推理零資料保留敏感資料開放模型隱私安全
閱讀原文
Ollama releases● 精選AI 評分79

Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型

Ollama 發布 v0.40.0：在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行，官方稱將繼續啟用更多模型。

地端推論開源MLXApple Silicon本地推理Qwen版本發布
1 個來源 · 4 則報導閱讀原文
Ollama releases● 精選AI 評分75

Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX，官方稱會繼續測試並啟用更多模型。

地端推論開發工具MLXApple SiliconOllama本地推理模型支援
1 個來源 · 4 則報導閱讀原文
Ollama releasesAI 評分32

v0.40.9-rc0: ci: switch to released WoA CTK (#19185)

Ollama 發布 v0.40.9-rc0，核心改動是把 Windows on Arm（WoA）CUDA 支援所用的 CUDA Toolkit 從預發布版切換到已正式發布的版本。維護者 dhiltgen 說明，此前一直在用 pre-release，而下載站點不穩定，因此改為跟進最新的正式版 CUDA Toolkit。該 tag 於 10 月 21 日建立，附帶 2 個建置產物；這次提交只涉及 CI 依賴，沒有模型或功能層面的變化。

地端推論OllamaWindows on ArmCUDA Toolkit發布候選
閱讀原文
Ollama releasesAI 評分43

v0.40.1

Ollama 發布 v0.40.1，服務端新增代理雲端用量與餘額 API，客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除，修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題，並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁，文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。

地端推論開源Ollama版本更新llama.cppMLXWindows
閱讀原文
Ollama releases● 精選AI 評分70

Ollama v0.40.4 支援在終端直接執行決策模型

Ollama v0.40.4 讓決策模型可以直接在終端呼叫：用 ollama run --ask 就能提出是非問題、把文字分類到標籤或按評分標準打分。這一版還讓 Apple silicon 的 MLX runner 支援 Kev 決策模型，ollama launch 用 usage credits 也能使用、無需升級付費方案。ollama launch codex 的模型選擇器會列出本地已安裝的 Ollama 模型，可在 Codex CLI 裡用 /model 切換；

地端推論開發工具Ollama決策模型MLXllama.cppCodex CLI
1 個來源 · 3 則報導閱讀原文
Ollama releasesAI 評分41

Ollama v0.40.3 暫停後臺模型升級以改善請求效能

Ollama 發布 v0.40.3，暫停了後臺模型升級，以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交，屬於行為調整：這一版本不再在後臺升級模型，以免拖慢推理與 embedding 請求。同時，ollama launch claude 不再彈出 Claude connectors 的警告，ollama launch codex 也不再提示 service tiers。

訂閱動態地端推論開源OllamaClaudeCodex本地推理
閱讀原文
Ollama releases● 精選AI 評分68

Ollama v0.40.2：舊模型首次執行自動升級到 llama.cpp

Ollama v0.40.2 起，此前版本下載的模型會在首次執行時自動在後臺升級，以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份，因此已升級的模型會暫時多佔用磁碟空間，官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除，但這隻刪除備份，日後若要降級到 0.40 以前的版本，需重新拉取這些模型。

地端推論開源Ollamallama.cpp模型升級本地推理版本更新
1 個來源 · 2 則報導閱讀原文
Ollama releases● 精選AI 評分78

Ollama macOS 版支援語音生成，新增 d3 決策模型

Ollama 0.40.11 在 macOS 上加入語音生成能力，ollama run 可在音訊生成的同時朗讀文字或模型回覆，應用也能通過相容 OpenAI 的 /v1/audio/speech 介面流式獲取音訊。同版本還引入 vLLM Semantic Router 的 d3 決策模型，提供 2B、4B、9B、27B 四種規模，可對文字、結構化狀態或影像做分類、是否判斷或為選項打機率分。

模型產品與方案Ollama語音生成d3 決策模型macOSOpenAI 相容 API
2 個來源 · 3 則報導閱讀原文
Ollama releases● 精選AI 評分72

Ollama 上線 Liquid AI LFM3 小模型家族，1.7B 支援 256K 上下文

Ollama v0.40.12 上線 Liquid AI 的 LFM3 小模型家族，面向本地 agent、工具呼叫與結構化輸出。1.7B 的 lfm3 支援 256K token 上下文，系列另有影像版 lfm3-vl、覆蓋 18 種語言語音的 lfm3-audio 與三模態的 lfm3-omni，以及 2B 的 d1 決策模型。本次 lfm3 與 d1 2b 已支援 Apple 硬體，Linux/Windows 稍後跟進。

模型地端推論OllamaLiquid AILFM3本地推理MLX
5 個來源 · 8 則報導閱讀原文
Ollama releases● 精選AI 評分65

Ollama v0.40.9：Flint 現已支援 Linux 與 Windows

Ollama 發布 v0.40.9，原本只能在 macOS 上執行的 Flint 現在也支援 Linux 和 Windows。流式 OpenAI Responses 與 Anthropic Messages 請求中途出錯時會明確報告生成失敗，不再在部分輸出後靜默結束；ollama launch 現在會把雲端模型的上下文長度與能力傳給 coding 工具，修正上下文與壓縮設定。

產品與方案地端推論OllamaFlintLinuxWindows編碼工具
1 個來源 · 2 則報導閱讀原文
X @ollamaAI 評分50

Ollama 雲三天免費開放 MiniMax M3.1 Flash

Ollama 與 MiniMax 合作，未來三天在 Ollama Cloud 上免費開放 MiniMax M3.1 Flash，無需本地算力即可呼叫。該服務由美國境內託管，並承諾零資料保留，即不儲存使用者請求資料。免費視窗僅限這三天，託管地區與資料策略是官方同時說明的兩項條件。

產品與方案商業MiniMax M3.1 FlashOllama Cloud限時免費零資料保留
3 個來源 · 4 則報導閱讀原文
Ollama releasesAI 評分42

v0.40.7-rc0 為 MLX 後端加入 PPLX Decider v1.2 支援

v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援（#19072）。該提交實現了基於 Qwen3.5 的決策打分器，採用非因果注意力，同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0，由維護者於 10 月 17 日打上標籤。

地端推論開源OllamaMLXQwen3.5PPLX Deciderrc
1 個來源 · 2 則報導閱讀原文
Ollama releasesAI 評分45

v0.40.4

Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中，Codex 的 /model 選擇器現在會列出本機已安裝的模型；服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題，MLX 與 MLX-C 同步做了版本號提升。

地端推論開源Ollamallama.cppMLXCodexEmbeddingGemma
1 個來源 · 3 則報導閱讀原文
Ollama releasesAI 評分45

v0.40.10-rc0 新增 gemma4-nemotron 渲染器，並支援 MLX 上的 DFlash 草稿

v0.40.10-rc0 新增 gemma4-nemotron 渲染器：模型通過 RENDERER gemma4-nemotron 顯式啟用後，助手內容會渲染在工具呼叫之前，而不是工具返回之後；gemma4 的自動檢測邏輯保持不變。同版本為 MLX 後端加入 Gemma 4 目標模型搭配 DFlash 草稿的投機解碼支援：當配置要求時，載入草稿模型自帶的輸出頭，同時保留現有 DFlash 模型的目標頭路徑，並暴露 Gemma 4 的隱藏狀態與原始 logits。

地端推論開源Gemma 4MLXDFlashspeculative decodingrenderer
5 個來源 · 13 則報導閱讀原文
Ollama releases● 精選AI 評分72

Ollama v0.35.1 支援 Cloudflare 決策模型 Clef

Ollama 發布 v0.35.1，通過 /v1/systemone 介面支援 Cloudflare 新開源的決策模型 Clef（27B）與 Clef Flash（9B），兩者均為多模態，請求可在文字 state 之外附帶圖片，所有問題共享該狀態並聯合打分。同一版本把聯網搜尋上限從每次回應 3 次提高到 10 次，Modelfile 新增 CAPABILITY 宣告，並更新了 llama.cpp 與 MLX 引擎。

模型產品與方案OllamaCloudflareClef多模態本地推理
3 個來源 · 4 則報導閱讀原文