llama.cpp 為 OpenCL 後端加入 iq4_xs 量化支援
llama.cpp 建置 b12069 在 OpenCL 後端加入 iq4_xs 量化支援，主要面向 Adreno GPU。更新包含 AOS/SOA 矩陣向量乘、tiled mm、noshuffle gemm/gemv 與 dp4a 實現，並針對 Adreno 最佳化解碼與窄 batch；提交中有高通工程師參與。
原標題：b12069
閱讀原文
| 評分 | 25 / 50（平均 37，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 的 OpenCL 後端新增 IQ2 系列量化，並針對 Adreno GPU 最佳化
llama.cpp 的 OpenCL 後端首次加入對 IQ2 系列 2-bit 量化（iq2_s、iq2_xs、iq2_xxs）的支援，並針對高通 Adreno GPU 做了專項最佳化。提交為每種量化型別補上了 AOS/SOA 矩陣向量乘、tiled matmul、noshuffle 的 GEMM/GEMV 與 dp4a 路徑，並最佳化了 Adreno 上的 decode 與窄批次場景。
llama.cpp 為 OpenCL 後端加入 Q2_K 量化支援
llama.cpp 建置 b11873 為 OpenCL 後端加入了 Q2_K 量化的初步支援，重點面向驍龍 Adreno GPU。新增 mul_mv_q2_k_f32、q2_k 的 SOA mv 與 tiled mm kernel，並針對 Adreno 補充 noshuffle gemm/gemv 與 dp4a gemm 後完成調優，高通工程師參與共同提交。
llama.cpp b12005 為 OpenCL 後端加入 q2_0 支援
llama.cpp b12005 為 OpenCL 後端加入初始 q2_0 支援，並針對 Adreno GPU 實現 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 與 dp4a，同時最佳化 q2_0 在 Adreno 上的解碼和窄批次表現。相關提交由高通工程師參與，改動集中在 OpenCL 後端的 q2_0 核心與 Adreno 適配；
llama.cpp OpenCL 新增 Adreno q4_K 分塊 GEMM
llama.cpp 在 b11971 建置中為 OpenCL 後端新增面向 Adreno GPU 的分塊 q4_K GEMM，並讓 batch 大於 1 時的分塊 q4_K lm_head 通過分塊 GEMM 執行。改動還把分塊 dp4a q4_K GEMM 拆到獨立檔案，並補充 dp4a 測試；提交由 Qualcomm 工程師共同署名，標註 Codex 輔助。
llama.cpp 的 OpenCL 後端初步支援 IQ3 量化
llama.cpp 的 OpenCL 後端加入對 IQ3 量化的初步支援，覆蓋 iq3_s 與 iq3_xxs 兩種型別。這批提交為 Adreno GPU 補齊了 AOS/SOA 矩陣向量乘、tiled 矩陣乘、noshuffle 的 GEMM/GEMV 與 dp4a 路徑，並最佳化了 Adreno 上的解碼與窄 batch 場景。改動由高通工程師參與合入，建置產物中已包含 Windows arm64 OpenCL Adreno 版本。