llama.cpp b12020:OpenCL 後端新增 FWHT
llama.cpp 發布 b12020 建置,OpenCL 後端新增 FWHT(快速沃爾什-哈達瑪變換)支援,提交者之一署名高通信箱。該版本同時把 macOS Apple Silicon 的 KleidiAI 建置與 openEuler 建置標記為 DISABLED,並新增 Ubuntu 26.04 s390x(CPU、zDNN)產物。
原標題:b12020
閱讀原文
| 評分 | 42 / 40(平均 41,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11501:SYCL 後端 FWHT 最佳化,macOS KleidiAI 建置停用
llama.cpp 發布 b11501 建置,主要變更是 SYCL 後端的 FWHT 最佳化(PR #29605)。該版本繼續提供 macOS/iOS、Linux、Windows、Android 與 openEuler 的預編譯包,覆蓋 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
llama.cpp 發布 b11514 建置,修復 Musa FWHT 並停用 KleidiAI 版 macOS 包
llama.cpp 發布 b11514 滾動建置,主要修復 Musa 後端的 FWHT 問題(#30167);同時 macOS Apple Silicon 的 KleidiAI 加速建置與 openEuler 建置被標記為 DISABLED。
llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer
llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer 支援,並對兩者做了最佳化,還重構了 tiled topk kernel。這批改動隨建置 b11874 發布,覆蓋 macOS、iOS、Linux、Android、Windows 的預編譯包,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 Adreno GPU、Hexagon NPU 版本。
llama.cpp 合併 SYCL FP16/FP32 反量化開關
llama.cpp 發布 b11810 建置,SYCL 後端把 FP16 與 FP32 的反量化開關合併為一項(#30740)。同一版本更新了多平台預編譯產物,涵蓋 macOS Apple Silicon 與 Intel、iOS XCFramework、Ubuntu 和 Windows 上的 CUDA 12/CUDA 13、Vulkan、ROCm 10.0、OpenVINO,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 建置。
llama.cpp b12005 為 OpenCL 後端加入 q2_0 支援
llama.cpp b12005 為 OpenCL 後端加入初始 q2_0 支援,並針對 Adreno GPU 實現 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 與 dp4a,同時最佳化 q2_0 在 Adreno 上的解碼和窄批次表現。相關提交由高通工程師參與,改動集中在 OpenCL 後端的 q2_0 核心與 Adreno 適配;