搜尋

找到 5 筆

Ollama releases10/18 00:28AI 評分42

v0.40.7-rc0 為 MLX 後端加入 PPLX Decider v1.2 支援

v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援（#19072）。該提交實現了基於 Qwen3.5 的決策打分器，採用非因果注意力，同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0，由維護者於 10 月 17 日打上標籤。

地端推論開源 Ollama MLX Qwen3.5 PPLX Decider rc

1 個來源 · 2 則報導閱讀原文

llama.cpp releases10/6 18:16AI 評分40

llama.cpp b11447 發布：新增 pplx-decider 模型支援

llama.cpp 發布 b11447 建置版本，本次列出的功能變更是新增對 pplx-decider 模型的支援（PR #30044）。該版本一次性放出 macOS/iOS、Linux、Android、Windows、openEuler 五個平台的預編譯產物，計算後端覆蓋 CPU、CUDA 12.8 與 13.4、Vulkan、ROCm 10.0、OpenVINO、SYCL，以及驍龍平台的 Adreno GPU 與 Hexagon NPU；

地端推論開源 llama.cpp pplx-decider 本地推理跨平台建置版本發布

閱讀原文

llama.cpp releases10/12 14:00AI 評分42

llama.cpp 新增 pplx-decider 模型支援

llama.cpp 發布 b11571 建置，新增對 pplx-decider（vLLM decision 2）模型的支援，並加入更嚴格的模型校驗、明確命名規則等改動。該版本同步提供 macOS、Linux、Windows、Android 各平台預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。

地端推論開源 llama.cpp 版本更新本地推理 vLLM 跨平台建置

1 個來源 · 3 則報導閱讀原文

llama.cpp releases10/12 14:27AI 評分45

llama.cpp b11572 新增 vLLM d3 模型支援

llama.cpp 發布 b11572，新增對 vLLM d3 模型的支援（d2 同步更新），並加入 pplx-decider 模型支援，同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。

地端推論開源 llama.cpp 版本更新本地推理 CUDA Vulkan

1 個來源 · 3 則報導閱讀原文

Ollama releases10/21 04:01AI 評分50

Ollama 0.40.7 引入 Perplexity 的 27B 決策模型

Ollama v0.40.7 引入 Perplexity 的 27B 決策模型 pplx-decider，基於 Qwen3.8-27B 微調。該版本修復了 OpenAI 相容 Responses 對話在有無 thinking 的模型間切換、或歷史含其他廠商壓縮項時失敗的問題，並糾正流式請求中客戶端工具呼叫早於 reasoning 項輸出導致的亂序與重複事件。客戶端斷連後，路由到遠端模型的請求會在 ollama.com 上取消，不再繼續執行；

地端推論開發工具 Ollama 推測解碼 Responses API Claude Code llama.cpp

1 個來源 · 2 則報導閱讀原文