llama.cpp 修復 SWA 檢查點失效邏輯
llama.cpp 發布 b11738 版本,服務端修復了滑動視窗注意力(SWA)檢查點的失效邏輯(#30666),並補充了在 n_past 閾值下會失敗的測試用例。本次更新仍照常提供 macOS、Linux、Windows、Android 等各平台建置,涵蓋 CUDA、Vulkan、ROCm、SYCL 與驍龍 NPU 後端。
原標題:b11738
閱讀原文
| 評分 | 22 / 42(平均 32,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 發布 b11399,重構 CUDA swizzling 程式碼
llama.cpp 發布 b11399 版本,主要變更是重構 CUDA swizzling 程式碼並修復模板與迴圈邊界。該版本繼續提供 macOS、Linux、Windows、Android 等多平台預編譯包,其中 macOS Apple Silicon 的 KleidiAI 版本被標記為 DISABLED,openEuler 建置同樣被停用。
llama.cpp 發布 b11461,修復 AMD 核顯 Vulkan 檢查點讀取慢
llama.cpp 發布 b11461,主要改動是修復 AMD 整合顯示卡在 Vulkan 後端下檢查點(checkpoint)讀取過慢的問題,對應 PR #30049。該版本同時更新了 macOS/iOS、Linux、Android、Windows、openEuler 的預編譯包,覆蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 後端。
llama.cpp 發布 b11711:修復 CUDA fattn 編譯警告
llama.cpp 發布建置 b11711,唯一程式碼改動是修復 CUDA flash attention 向量分發中觸發的 -Wtautological-compare 編譯警告(#30519),提交者為 Adrien Gallouët。
llama.cpp b11723:Hexagon 快閃記憶體注意力支援長上下文與 SWA 模型
llama.cpp 發布 b11723 建置,Hexagon NPU 後端的 FLASH_ATTN_EXT 得到改進,可支援更長上下文與滑動視窗注意力(SWA)模型(#30731)。同一批改動還包括掩碼塊跳過以減少 DMA 取數、微調 hmx→hvx 切換閾值以提升 gemma-4 表現,以及讓 hmx 門控計入 mdev.count。
llama.cpp 發布 b11424,修復 Vulkan Flash Attention 共享記憶體越界寫
llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。