搜尋

llama.cpp Vulkan 後端用 subgroup reductions 最佳化 RMS Norm

llama.cpp 新建置 b11905 為 Vulkan 後端加入基於 subgroup reductions 的 RMS Norm 最佳化，並把 AMD 廠商加入 subgroup 歸約快速路徑。非 subgroup 路徑補齊 128/256/512 三種 block size，統一 BLOCK_SIZE，加入 unroll，以及跳過第二次 subgroup 的快速路徑。