v0.40.9-rc0: ci: switch to released WoA CTK (#19185)
Ollama 發布 v0.40.9-rc0,核心改動是把 Windows on Arm(WoA)CUDA 支援所用的 CUDA Toolkit 從預發布版切換到已正式發布的版本。維護者 dhiltgen 說明,此前一直在用 pre-release,而下載站點不穩定,因此改為跟進最新的正式版 CUDA Toolkit。該 tag 於 10 月 21 日建立,附帶 2 個建置產物;這次提交只涉及 CI 依賴,沒有模型或功能層面的變化。
原標題:v0.40.9-rc0: ci: switch to released WoA CTK (#19185)
閱讀原文
| 評分 | 35 / 30(平均 32,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
Ollama v0.40.2:舊模型首次執行自動升級到 llama.cpp
Ollama v0.40.2 起,此前版本下載的模型會在首次執行時自動在後臺升級,以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份,因此已升級的模型會暫時多佔用磁碟空間,官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除,但這隻刪除備份,日後若要降級到 0.40 以前的版本,需重新拉取這些模型。
v0.40.1
Ollama 發布 v0.40.1,服務端新增代理雲端用量與餘額 API,客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除,修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題,並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁,文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。
MLX 新增 Nemotron 3.5 Super,並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
v0.40.4
Ollama 發布 v0.40.4,把 llama.cpp 升級到 b11521,新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中,Codex 的 /model 選擇器現在會列出本機已安裝的模型;服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題,MLX 與 MLX-C 同步做了版本號提升。
Ollama v0.40.3 暫停後臺模型升級以改善請求效能
Ollama 發布 v0.40.3,暫停了後臺模型升級,以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交,屬於行為調整:這一版本不再在後臺升級模型,以免拖慢推理與 embedding 請求。同時,ollama launch claude 不再彈出 Claude connectors 的警告,ollama launch codex 也不再提示 service tiers。