AISpot

搜尋

依意思最接近的 30 筆

Ollama releases● 精選AI 評分75

Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX，官方稱會繼續測試並啟用更多模型。

地端推論開發工具MLXApple SiliconOllama本地推理模型支援
1 個來源 · 4 則報導閱讀原文
Ollama releases● 精選AI 評分82

Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

地端推論開源OllamaMLXApple Silicon本地推理Qwen
1 個來源 · 4 則報導閱讀原文
Ollama releases● 精選AI 評分79

Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型

Ollama 發布 v0.40.0：在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行，官方稱將繼續啟用更多模型。

地端推論開源MLXApple Silicon本地推理Qwen版本發布
1 個來源 · 4 則報導閱讀原文
Ollama releases● 精選AI 評分68

Ollama v0.40.2：舊模型首次執行自動升級到 llama.cpp

Ollama v0.40.2 起，此前版本下載的模型會在首次執行時自動在後臺升級，以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份，因此已升級的模型會暫時多佔用磁碟空間，官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除，但這隻刪除備份，日後若要降級到 0.40 以前的版本，需重新拉取這些模型。

地端推論開源Ollamallama.cpp模型升級本地推理版本更新
1 個來源 · 2 則報導閱讀原文
Ollama releases● 精選AI 評分72

Ollama 上線 Liquid AI LFM3 小模型家族，1.7B 支援 256K 上下文

Ollama v0.40.12 上線 Liquid AI 的 LFM3 小模型家族，面向本地 agent、工具呼叫與結構化輸出。1.7B 的 lfm3 支援 256K token 上下文，系列另有影像版 lfm3-vl、覆蓋 18 種語言語音的 lfm3-audio 與三模態的 lfm3-omni，以及 2B 的 d1 決策模型。本次 lfm3 與 d1 2b 已支援 Apple 硬體，Linux/Windows 稍後跟進。

模型地端推論OllamaLiquid AILFM3本地推理MLX
5 個來源 · 7 則報導閱讀原文
Ollama releases● 精選AI 評分76

Ollama v0.40.0-rc6 在 MLX 上加入多模態嵌入

Ollama 發布 v0.40.0-rc6，在 MLX runner 上實現 EmbeddingGemma2Model 架構，使本地嵌入支援多模態輸入。/api/embed 介面現在可通過 input dict 為每個條目單獨傳入媒體。該模型為 24 層雙向文字編碼器，帶 PLE，共享 gemma4 的視覺與音訊塔，輸出經 mean-pool 與 L2 歸一化。該標籤由 pdevine 於 10 月 6 日打上，對應提交 #18820，仍屬 rc 預發布版本。

模型地端推論多模態嵌入EmbeddingGemmaMLXOllamaAPI
8 個來源 · 12 則報導閱讀原文
X @ollamaAI 評分50

Ollama 雲三天免費開放 MiniMax M3.1 Flash

Ollama 與 MiniMax 合作，未來三天在 Ollama Cloud 上免費開放 MiniMax M3.1 Flash，無需本地算力即可呼叫。該服務由美國境內託管，並承諾零資料保留，即不儲存使用者請求資料。免費視窗僅限這三天，託管地區與資料策略是官方同時說明的兩項條件。

產品與方案商業MiniMax M3.1 FlashOllama Cloud限時免費零資料保留
3 個來源 · 4 則報導閱讀原文
Ollama releasesAI 評分45

v0.40.4

Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，為 decision 模型和 EmbeddingGemma 2 提供支援。MLX 與 MLX-C 版本號同步上調，並修復 MLX 推測回滾後恢復的迴圈狀態未壓縮的問題。launch 方面，Codex 的 /model 選擇器現在會列出已安裝的模型；server 端在推理路由中複用已校驗的 manifest 與已載入模型。

地端推論開源Ollamallama.cppMLXCodexEmbeddingGemma
1 個來源 · 3 則報導閱讀原文
Ollama releasesAI 評分42

v0.40.7-rc0 為 MLX 後端加入 PPLX Decider v1.2 支援

v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援（#19072）。該提交實現了基於 Qwen3.5 的決策打分器，採用非因果注意力，同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0，由維護者於 10 月 17 日打上標籤。

地端推論開源OllamaMLXQwen3.5PPLX Deciderrc
1 個來源 · 2 則報導閱讀原文
量子位● 精選AI 評分67

1.3B 的 OXR 開源登頂三項文件解析榜，速度超 PaddleOCR、MinerU

1.3B 引數的開源文件解析模型 OXR 在 OmniDocBench、olmOCR-Bench、DocParsingBench 三項基準上分別取得 97.18、87.84、87.76 分，均列第一。它覆蓋文字、表格、公式、化學結構式等 13 類元素，輸出 Markdown / JSON 並保留版面座標，公式轉 LaTeX、表格轉 HTML。

模型開源開源模型文件解析1.3BRSIOmniDocBench
閱讀原文
Ollama releasesAI 評分45

v0.40.4

Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中，Codex 的 /model 選擇器現在會列出本機已安裝的模型；服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題，MLX 與 MLX-C 同步做了版本號提升。

地端推論開源Ollamallama.cppMLXCodexEmbeddingGemma
1 個來源 · 3 則報導閱讀原文
Ollama releasesAI 評分43

v0.40.1

Ollama 發布 v0.40.1，服務端新增代理雲端用量與餘額 API，客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除，修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題，並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁，文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。

地端推論開源Ollama版本更新llama.cppMLXWindows
閱讀原文
Ollama releasesAI 評分42

v0.40.5：MLX 的 Metal 自訂核心移植到 CUDA

v0.40.5 把 MLX 原本為 Metal 寫的自訂核心移植到 CUDA，MLX 推理路徑由此延伸到 NVIDIA GPU。同一版本中，OpenAI 相容層可在 Responses 歷史裡接受自訂工具呼叫，應用端澄清了雲支付報錯提示，文件更新模型推薦並統一措辭。此外還有 MLX 的版本號提升，以及新貢獻者 @willietran 的首次提交。

地端推論開發工具OllamaMLXCUDAMetal自訂工具呼叫
1 個來源 · 2 則報導閱讀原文