llama.cpp b11878：CUDA 後端融合 Qwen MRoPE 與 set-rows
llama.cpp 發布 b11878，CUDA 後端新增 Qwen MRoPE 與 set-rows 的運算元融合（PR #31025），把這兩步計算合併進單個 GPU kernel。MRoPE 是 Qwen 系列模型使用的多維旋轉位置編碼，該改動面向在 NVIDIA GPU 上執行 Qwen 的本地推理使用者。
原標題：b11878
閱讀原文
| 評分 | 40 / 38（平均 39，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp CUDA 後端融合 FFN gate/up 矩陣乘與 GLU
llama.cpp 的 CUDA 後端把稠密 FFN 的 gate 與 up 兩次矩陣乘合併為一次 mul_mat_q 呼叫，並在寫回階段直接計算 GLU，主要加速 prompt 處理。權重按每 8 行交錯裝載，使每個執行緒同時持有 up 值與對應的 gate 值，MMA 迴圈、warp 佈局與 vec_dot 保持原樣，寫回只輸出一半行。
llama.cpp 新 PR 將共享專家融合進 MMVQ，部分 MoE 架構提速
llama.cpp 的 PR #29184 提出在 CUDA 後端把共享專家融合進 MMVQ，為部分 MoE 架構帶來提速，例如 Qwen 35B A3B。有評論稱該改動使 TG 速度提升約 5%，並指出僅對部分 MoE 架構有效。
llama.cpp b11515：SYCL 加入 Q5_K 重排 MMVQ 與融合 GLU
llama.cpp 發布 b11515，主要變更是 SYCL 後端為 Q5_K 量化補上重排佈局的 MMVQ 核心，並加入融合 GLU（#29375），面向 Intel GPU 的量化推理。建置矩陣照舊覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler，包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端；
llama.cpp b11517 發布：CUDA 版把 src1 精度傳入主機端 MMQ 配置
llama.cpp 建置版本 b11517 發布，其中 CUDA 後端將 src1 精度顯式傳遞給主機端的 MMQ 配置輔助函式（PR #30168，作者來自 NVIDIA），屬於量化矩陣乘效能/正確性相關的底層調整。
llama.cpp b11748 修復 SYCL 重排量化權重的 get_rows
llama.cpp 發布 b11748 建置，主要修復 SYCL 後端在重排後的量化權重上呼叫 get_rows 的問題（PR #30430）。該版本同時更新了多平台預編譯產物：macOS/iOS 的 XCFramework、Linux 與 Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 建置，以及驍龍平台的 CPU、Adreno GPU 與 Hexagon NPU 支援。