llama.cpp 新增 H2O-Lightning-4B 決策模型支援
llama.cpp 加入 h2o-lightning 決策模型型別，支援 h2oai/h2o-lightning-4b——一個在 Qwen3.5-4B 上合併決策 LoRA 的模型。它與已有型別都不相容：輸出是帶前導空格的「 A」而非「A」，最多支援 255 個標籤，訓練文字出自 Python json.dumps，12.0 這類浮點必須原樣輸出為 12.0。
原標題：b11773
閱讀原文
| 評分 | 42 / 45（平均 43，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援，服務端可通過 images 與 input_audio 直接接收音訊輸入，模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni，images 成為 files 的別名，無記憶的 lfm2 被限定為非因果模式，CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成；
llama.cpp 新增 Decision 模型支援
llama.cpp 最新建置已加入 Decision 模型支援，新增 /v1/systemone 端點，可在本地進行 Jev 風格推理，兼顧效率與隱私。目前支援多個開源模型，官方表示後續還會增加更多模型。
llama.cpp 新增 nimble 決策模型支援
llama.cpp 發布 b11364 版本，新增對 nimble 決策模型的支援（PR #29844）。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台，提供 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL、Snapdragon 的 Adreno GPU 與 Hexagon NPU 等後端建置；
llama.cpp 新增 IBM Granite Switch 決策模型支援
llama.cpp 發布 b11700，新增對 IBM Granite Switch 決策模型的轉換與推理支援，改動覆蓋 convert、common 與 server，模板參考 granite-switch-4.1-8b。開發中曾加入 decision.chat 讓決策模型兼作聊天，隨後被回退，最終確定為只要 Granite Switch 支援決策就始終支援文字，server README 也同步更新。
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572，新增對 vLLM d3 模型的支援（d2 同步更新），並加入 pplx-decider 模型支援，同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。