v0.40.7
Ollama 發布預發布版 v0.40.7,三項改動中最主要的是 llama-server 現在能自行推斷投機解碼所需的草稿模型型別,不再需要手動指定。MLX 後端新增 PPLX Decider v1.2 支援,OpenAI 相容層則允許在非思考模型上使用 Responses 的 effort 引數。
原標題:v0.40.7
閱讀原文
| 評分 | 45 / 40(平均 42,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
v0.40.1
Ollama 發布 v0.40.1,服務端新增代理雲端用量與餘額 API,客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除,修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題,並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁,文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。
MLX 新增 Nemotron 3.5 Super,並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
Ollama v0.40.2:舊模型首次執行自動升級到 llama.cpp
Ollama v0.40.2 起,此前版本下載的模型會在首次執行時自動在後臺升級,以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份,因此已升級的模型會暫時多佔用磁碟空間,官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除,但這隻刪除備份,日後若要降級到 0.40 以前的版本,需重新拉取這些模型。
Ollama v0.40.3 暫停後臺模型升級以改善請求效能
Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。
Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。