llama.cpp 建置 b12028 在測試中啟用 Gemma 4 並採用 GQA
llama.cpp 發布建置 b12028,在 test-llama-archs 中啟用 Gemma 4,並讓該測試對 Gemma 4 採用 GQA。該版本照例提供 macOS/iOS、Linux、Android、Windows 與 openEuler 的多平台建置產物,涵蓋 CUDA、Vulkan、ROCm、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU 和 Hexagon NPU 等後端;
原標題:b12028
閱讀原文
| 評分 | 35 / 42(平均 38,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11559:OpenCL 後端為 Gemma-4 E2B/E4B 開啟 GPU 解碼
llama.cpp 建置 b11559 為 Gemma-4 啟用 E4B 的 GPU 解碼,並把該支援擴充套件到 E2B,OpenCL 後端不再只覆蓋部分型號。該版本還允許 Gemma-4 使用 DK512,最佳化 DK64 GQA8 與 DK128 GQA4 解碼,並改進 flash attention。
llama.cpp b11772 修復 Gemma 4 FFN 啟用
llama.cpp 發布 b11772 建置,修復 mtmd 中 Gemma 4 的 FFN 啟用(#30882)。該版本同步提供 macOS/iOS、Linux、Android、Windows 和 openEuler 的預編譯包,覆蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等平台與後端,其中部分條目標註為 DISABLED。
llama.cpp b12088 為 LFM3 GGUF 模型啟用 NVFP4 支援
llama.cpp 發布 b12088 版本,在模型側為 LFM3 的 GGUF 模型啟用 NVFP4 支援。同批預編譯包覆蓋 macOS Apple Silicon、iOS、Windows、Android,以及 Linux 上的 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 後端;Snapdragon 版本提供 CPU、Adreno GPU、Hexagon NPU 三條路徑。
llama.cpp 發布 b11352 版本,最佳化 Qwen4 掩碼構造
llama.cpp 發布 b11352 建置版本,主要變更為最佳化 Qwen4 的掩碼構造(#29824),並將相同改動應用到 GLM5-next。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台,提供 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等多種後端建置,其中 macOS Apple Silicon 的 KleidiAI 建置被標記為 DISABLED。
llama.cpp b11537 修復 Gemma 4 embedding 並改進建置邏輯
llama.cpp 發布 b11537,重點是修復 Gemma 4 的 embedding 相關問題、改進輸入 embedding 的建置邏輯。該版本在 graph 中重排了 embeddings 使用的 get_rows,修好 raw embeddings 路徑,在 Gemma 4 的 embedding 路徑中避免 ple cast,併為 LoRA 留下 TODO。