llama.cpp b12077 支援 GLM-5.3，修復多裝置 MLA 拆頭
llama.cpp 建置 b12077 加入 GLM-5.3（glm5-next）支援，可在 meta 後端跑 MLA 推理。由於 MLA 快取只有一個 KV head，多裝置時每張卡分到的頭數取決於 GQA 比例；HIP 上 D=512 的 tile FA kernel 要求該比例為偶數，三卡下 16 個頭被拆成 5/5/6 會直接中止，現已改為按對拆頭。
原標題：b12077
閱讀原文
| 評分 | 45 / 45（平均 45，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11515：SYCL 加入 Q5_K 重排 MMVQ 與融合 GLU
llama.cpp 發布 b11515，主要變更是 SYCL 後端為 Q5_K 量化補上重排佈局的 MMVQ 核心，並加入融合 GLU（#29375），面向 Intel GPU 的量化推理。建置矩陣照舊覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler，包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端；
llama.cpp SYCL 為 GLM MLA 預填充接入 MKL，pp8192 提速 2.99 倍
llama.cpp 的 SYCL 後端放行了 GLM-4.7 Flash 的 MLA 形狀走 MKL flash attention，此前該形狀因 K/V 寬度不一致、head dim 上限 512 被排程器拒絕，預填充只能回退到更慢的 TILE kernel。在 Intel Arc Pro B70 上，pp8192 從 432.80 提升到 1292.29 tok/s（2.99 倍，+198.6%），tg256 在噪聲範圍內基本不變（45.67 對 45.65）。
b11823
llama.cpp 發布 b11823 建置，主要改動是最佳化 GLM-5 的輸入處理，避免 sel_mask_2d 輸入，cont 路徑也不再新建 pool_flat 輸入。
llama.cpp Vulkan 後端支援 ggml src1 精度並調整累加器精度選擇
llama.cpp 建置 b11854 為 Vulkan 後端加入 ggml src1 精度支援，並更新累加器精度選擇邏輯。改動通過縮放處理 fp32 溢位，並修復 copy-to-fp16 啟用中的溢位問題；同時補充 ggml 精度查詢輔助函式、在 mul_mat 中增加檢查與測試，並統一命名為 acc_prec。此次建置仍覆蓋 macOS、Linux、Windows、Android 的 Vulkan、CUDA、ROCm、SYCL、OpenVINO 等後端二進位制。
llama.cpp 合併 GLM5-Next MTP 支援，可作 draft 模型
llama.cpp 合併 PR #29928，為 GLM5-Next 加入多 token 預測（MTP）的 NextN 計算圖，使其能作為投機解碼的 draft 模型使用。改動包括支援只含 NextN 層或只含主幹張量的拆分 GGUF 檔案載入，並把 MTP 圖按輸出行裁剪，無輸出行的 4-token catch-up 核心耗時從 6.9 ms 降到 2.9 ms，貪心輸出雜湊與 draft 接受率不變。