搜尋

llama.cpp Vulkan 支援 MUL_MAT 第三維廣播，不再回退 CPU

llama.cpp 建置 b11933 修復 Vulkan 後端：MUL_MAT 允許 src0 與 src1 在第三維（ne3）上不相等時進行廣播，這類矩陣乘不再回退到 CPU 並複製權重。此前 supports_op 會拒絕所有 ne3 不相等的 MUL_MAT，而 mul_mm、mul_mmq、mul_mat_vec 已通過 broadcast3 支援該廣播；回退還使 split 佈局隨 ubatch 的 stream 數量變化。