llama.cpp 的 ROCm 後端新增 RDNA4_M 架構,支援 gfx1170/gfx1171
llama.cpp 的 ROCm/HIP 後端新增 RDNA4_M 架構家族,覆蓋 gfx1170、gfx1171 兩款 GPU。提交說明指出,gfx117X 更接近 RDNA4、支援 128b WMMA,但兩者並不完全相同,因此單獨定義 RDNA4_M 宏,並在合適的位置啟用它。
原標題:b12001
閱讀原文
| 評分 | 45 / 42(平均 43,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 發布 b11662 建置,含 ROCm 10.0 與 CUDA 13 版本
llama.cpp 發布 b11662 版本(同步 ggml),預編譯建置提供 ROCm 10.0、CUDA 13(13.4 庫)以及驍龍平台的 CPU、Adreno GPU 與 Hexagon NPU 版本。
llama.cpp 修復 Vulkan 後端 RDNA4 矩陣向量調優
llama.cpp 發布 b11389 版本,修復了 Vulkan 後端在 RDNA4 架構上的矩陣向量運算調優問題(PR #29934)。該版本繼續提供覆蓋 macOS、Linux、Windows、Android 等平台的預編譯二進位制,包括 Vulkan、CUDA、ROCm、SYCL 等後端,其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置被停用。
llama.cpp 發布 b11451,修復 Adreno xmem GEMM 越界讀取
llama.cpp 發布 b11451 建置,主要變更是修復 OpenCL 後端在 Adreno GPU 上 xmem GEMM 的越界讀取(OOB read)問題,對應 PR #30041。
llama.cpp 新增 GDN chunked kernel,RTX 3090/4090 開啟 MMA
llama.cpp 建置 b11632 為 CUDA 和 HIP 後端加入 GDN chunked kernel(自 tetherto#257 移植)。在 RTX 3090(SM86)與 RTX 4090(SM89)通過正確性和 prefill 基準測試後,CUDA 側啟用 GDN MMA,其他未測試架構繼續沿用原有 fallback;ggml 側另註明 GDN 只在 n_tokens > K 時保證最終狀態。
llama.cpp 修復 RDNA3/RDNA4 上 HIP bf16 WMMA 編譯失敗
llama.cpp 修復了 HIP 後端在 AMD RDNA3(gfx1150/1151)與 RDNA4(gfx1200/1201)上 bf16 WMMA 的編譯失敗。原因是 __builtin_amdgcn_wmma_f32_16x16x16_bf16_w32 等內建要求 A/B 運算元為 short 向量而非 __bf16,原先按 __bf16 宣告分片會直接報錯。