llama.cpp releasesAI 評分43
llama.cpp b11724 修復 CUDA flash_attn_ext_vec 競態
llama.cpp 發布 b11724 建置,主要修復 CUDA 後端 flash_attn_ext_vec 中共享記憶體的寫後讀(WAR)冒險與 KQ 寫後讀競態,避免注意力計算出錯。補丁由社群貢獻者提交,並附 ChatGPT 協助說明,同時整理了 KQ 同步相關注釋。
找到 2 筆;也可以試試 語意搜尋
llama.cpp 發布 b11724 建置,主要修復 CUDA 後端 flash_attn_ext_vec 中共享記憶體的寫後讀(WAR)冒險與 KQ 寫後讀競態,避免注意力計算出錯。補丁由社群貢獻者提交,並附 ChatGPT 協助說明,同時整理了 KQ 同步相關注釋。
llama.cpp 發布 b11723 建置,Hexagon NPU 後端的 FLASH_ATTN_EXT 得到改進,可支援更長上下文與滑動視窗注意力(SWA)模型(#30731)。同一批改動還包括掩碼塊跳過以減少 DMA 取數、微調 hmx→hvx 切換閾值以提升 gemma-4 表現,以及讓 hmx 門控計入 mdev.count。