llama.cpp b12003:SYCL 後端 FLASH_ATTN_EXT 失敗待修
llama.cpp 發布建置版本 b12003,已知問題是 SYCL 後端的 FLASH_ATTN_EXT 出現失敗(issue #30761)。該版本仍覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 建置。
原標題:b12003
閱讀原文
| 評分 | 30 / 42(平均 36,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11788 修復 SYCL Flash Attention 崩潰
llama.cpp 發布建置 b11788,修復 SYCL 後端在 Flash Attention 下因 Query 頭維度不匹配(neq0 ≠ HSK,D=2048/4096)觸發的崩潰(#30286)。其餘是常規預編譯包的更新,覆蓋 macOS Apple Silicon、Linux 與 Windows 的 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 和 SYCL;
llama.cpp 發布 b11424,修復 Vulkan Flash Attention 共享記憶體越界寫
llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。
llama.cpp b11724 修復 CUDA flash_attn_ext_vec 競態
llama.cpp 發布 b11724 建置,主要修復 CUDA 後端 flash_attn_ext_vec 中共享記憶體的寫後讀(WAR)冒險與 KQ 寫後讀競態,避免注意力計算出錯。補丁由社群貢獻者提交,並附 ChatGPT 協助說明,同時整理了 KQ 同步相關注釋。
llama.cpp 發布 b11784,修復 SYCL IQ3 崩潰
llama.cpp 發布 b11784 建置,主要修復 SYCL 後端在 IQ3 量化下的崩潰問題(#30604)。同一版中,macOS Apple Silicon 的 KleidiAI 加速建置與 openEuler 建置被標記為 DISABLED,本輪不提供。
llama.cpp 修復 SYCL 混用不同型號 GPU 的 FA 問題
llama.cpp 合併 PR #29071,修復 SYCL 後端在 Flash Attention(FA)中混用不同型號 GPU 時出現的問題。改動位於 ggml/src/ggml-sycl/ggml-sycl.cpp,提交由 Georgi Gerganov 共同署名。該修復包含在版本 b11464 中,此版本同時提供 Ubuntu x64(SYCL FP32、FP16)與 Windows x64(SYCL)等建置。