llama.cpp b11835:SYCL 將 device 傳入 mul_mat_uses_onednn
llama.cpp 發布 b11835 建置版本,主要變更是 SYCL 後端把 device 傳入 mul_mat_uses_onednn(#31014)。該版本同步提供 macOS Apple Silicon、Linux/Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等預編譯包,並包含 Android arm64 與 Snapdragon 的 CPU/Adreno GPU/Hexagon NPU 建置。
原標題:b11835
閱讀原文
| 評分 | 38 / 35(平均 36,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11693 修復 SYCL 後端 mul_mat 記憶體錯誤
llama.cpp 發布建置 b11693,核心改動是修復 SYCL 後端在 mul_mat、split buffer 和 host pool 中的記憶體錯誤(PR #29889)。該版本同時更新了預編譯產物清單,覆蓋 macOS/iOS、Linux、Windows、Android,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 以及 SYCL FP32/FP16 等後端。
llama.cpp b11501:SYCL 後端 FWHT 最佳化,macOS KleidiAI 建置停用
llama.cpp 發布 b11501 建置,主要變更是 SYCL 後端的 FWHT 最佳化(PR #29605)。該版本繼續提供 macOS/iOS、Linux、Windows、Android 與 openEuler 的預編譯包,覆蓋 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
llama.cpp 為 SYCL 後端加入分組 MoE XMX GEMM
llama.cpp 建置 b11493 為 SYCL 後端新增分組 MoE XMX GEMM 運算元(#29245),面向混合專家模型的矩陣乘加速。該版本同時放出全平台建置產物,覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 組合。
llama.cpp 發布 b11750,修復 SYCL 編譯警告
llama.cpp 發布 b11750 建置,主要變更是修復 SYCL 後端程式碼的編譯警告,包括缺失的函式原型、死程式碼與多餘分號(#30271)。同時照例提供全平台預編譯包,覆蓋 macOS Apple Silicon、iOS XCFramework、Ubuntu 的 CPU/Vulkan/CUDA 12 與 CUDA 13/ROCm 10.0/OpenVINO/SYCL FP32 與 FP16 建置,以及 Android、Windows 的 CPU、CUDA、Vulkan…
llama.cpp b11904:SYCL 後端 MMVQ 啟動三元組模板化
llama.cpp 發布 b11904 建置,主要改動是把 SYCL 後端的普通 MMVQ 啟動三元組改為模板化(#31013),涉及 Intel GPU 上的量化矩陣乘向量路徑。該版本照例提供多平台預編譯產物:macOS(Apple Silicon、Intel)、Linux(CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32 與 FP16)、Windows、Android 及 openEuler。