llama.cpp OpenCL 後端提升解碼效能，擴充套件 FA 支援
llama.cpp 新建置 b12118 針對 OpenCL 後端做了多項最佳化，提升解碼效能。其中，q4_K gate up + GLU 改用更多 workgroup 來並行；Flash Attention 新增對 GQA 2 和 6（head size 256）、GQA 16（head size 128、512）、GQA 2（head size 512）等組合的處理。相關提交由高通工程師完成，改動主要面向 Adreno GPU 與驍龍平台上的本地推理。
原標題：b12118
閱讀原文
| 評分 | 45 / 45（平均 45，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b12005 為 OpenCL 後端加入 q2_0 支援
llama.cpp b12005 為 OpenCL 後端加入初始 q2_0 支援，並針對 Adreno GPU 實現 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 與 dp4a，同時最佳化 q2_0 在 Adreno 上的解碼和窄批次表現。相關提交由高通工程師參與，改動集中在 OpenCL 後端的 q2_0 核心與 Adreno 適配；
llama.cpp b11559：OpenCL 後端為 Gemma-4 E2B/E4B 開啟 GPU 解碼
llama.cpp 建置 b11559 為 Gemma-4 啟用 E4B 的 GPU 解碼，並把該支援擴充套件到 E2B，OpenCL 後端不再只覆蓋部分型號。該版本還允許 Gemma-4 使用 DK512，最佳化 DK64 GQA8 與 DK128 GQA4 解碼，並改進 flash attention。
llama.cpp OpenCL 新增 Adreno q4_K 分塊 GEMM
llama.cpp 在 b11971 建置中為 OpenCL 後端新增面向 Adreno GPU 的分塊 q4_K GEMM，並讓 batch 大於 1 時的分塊 q4_K lm_head 通過分塊 GEMM 執行。改動還把分塊 dp4a q4_K GEMM 拆到獨立檔案，並補充 dp4a 測試；提交由 Qualcomm 工程師共同署名，標註 Codex 輔助。
llama.cpp 為 OpenCL 後端加入 iq4_xs 量化支援
llama.cpp 建置 b12069 在 OpenCL 後端加入 iq4_xs 量化支援，主要面向 Adreno GPU。更新包含 AOS/SOA 矩陣向量乘、tiled mm、noshuffle gemm/gemv 與 dp4a 實現，並針對 Adreno 最佳化解碼與窄 batch；提交中有高通工程師參與。
llama.cpp 為 OpenCL 後端加入 Q2_K 量化支援
llama.cpp 建置 b11873 為 OpenCL 後端加入了 Q2_K 量化的初步支援，重點面向驍龍 Adreno GPU。新增 mul_mv_q2_k_f32、q2_k 的 SOA mv 與 tiled mm kernel，並針對 Adreno 補充 noshuffle gemm/gemv 與 dp4a gemm 後完成調優，高通工程師參與共同提交。