llama.cpp 新增 Limite 架構支援,可直接執行 Limite 1B 模型
llama.cpp 建置 b11988 加入 Limite 架構支援,可直接載入 Limite 1B - Violetto 模型。改動覆蓋 gguf-py 架構定義、模型轉換指令碼與推理三處,提交者 Giuseppe Scrivano 註明由 Claude Opus 5.5 協助。
原標題:b11988
閱讀原文
| 評分 | 62 / 38(平均 50,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 新增 LiquidAI d1-2B 與 d1-omni-2B 模型支援
llama.cpp 建置 b11945 加入 LiquidAI d1-2B 與 d1-omni-2B 兩個模型的推理支援,其中 d1-omni-2B 為多模態版本。轉換指令碼同步調整:d1 的 GGUF 不再包含語音任務模板,另有一處 no_batching 的小重構。
llama.cpp 建置 b11641:spec 新增 lilicorr 支援
llama.cpp 發布建置 b11641,其中 spec(推測解碼)新增 lilicorr 支援(PR #30506),是本次最主要的變更。同一批提交還讓 convert 採用約定的超參賦值方式,併為 llama-batch.cpp 中的 hparam 使用留下 TODO,另有一處 typo 修復,提交由 Georgi Gerganov 共同署名。
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572,新增對 vLLM d3 模型的支援(d2 同步更新),並加入 pplx-decider 模型支援,同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。
llama.cpp 伺服器新增 /v1/systemone API,支援 laya、julia-1 等模型
llama.cpp 的 server 元件新增了 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援,並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台,但明確不支援 date_facts。
llama.cpp 新增 Flint 模型支援,多平台建置同步更新
llama.cpp 建置 b11803 合併了對新模型 Flint(FlintForCausalLM)的支援,該提交由 Codex 協助完成,合作者包括 Hugging Face 的 Sigbjørn Skjæret。同版本的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。