llama.cpp 發布 b11565:SYCL 後端 DMMV 行尾讀取加保護
llama.cpp 發布 b11565 建置,主要改動是為 SYCL 後端的 DMMV 在行尾加上讀取保護,修復越界讀取(PR #29338)。這批預編譯產物同時更新了平台矩陣:macOS Apple Silicon 啟用 KleidiAI 的版本與 openEuler 兩項被標記為 DISABLED;macOS 與 iOS 另提供 Intel x64 與 XCFramework 產物;
原標題:b11565
閱讀原文
| 評分 | 45 / 42(平均 43,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11511 修復 CUDA MMQ 越界讀取
llama.cpp 發布建置 b11511,主要修復 CUDA 後端 MMQ 的越界讀取問題(#29953)。該版本照常提供 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端建置,覆蓋 Linux、Windows、Android 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU。
llama.cpp 發布 b11451,修復 Adreno xmem GEMM 越界讀取
llama.cpp 發布 b11451 建置,主要變更是修復 OpenCL 後端在 Adreno GPU 上 xmem GEMM 的越界讀取(OOB read)問題,對應 PR #30041。
llama.cpp b11501:SYCL 後端 FWHT 最佳化,macOS KleidiAI 建置停用
llama.cpp 發布 b11501 建置,主要變更是 SYCL 後端的 FWHT 最佳化(PR #29605)。該版本繼續提供 macOS/iOS、Linux、Windows、Android 與 openEuler 的預編譯包,覆蓋 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
llama.cpp 發布 b11491:清理 SYCL 標頭檔案重複的 block-size 定義
llama.cpp 發布 b11491,主要變更是移除 SYCL 運算元標頭檔案中重複的 block-size 定義,這些數值與 ggml/src/ggml-sycl/presets.hpp 裡的定義完全重複(PR #29507),屬清理性改動。
llama.cpp 發布 b11462,含 SYCL fattn 緩衝區清理
llama.cpp 發布 b11462 建置,本次合併的主要改動是 SYCL 後端的 fattn_kv_buffers 清理(#27689)。該版本繼續提供 macOS/iOS、Linux、Android、Windows、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL,以及驍龍平台的 CPU、Adreno GPU 與 Hexagon NPU。