llama.cpp 用預計算中點加速 IQ4 量化生成
llama.cpp 發布 b11969 建置，通過預計算中點加速 IQ4 量化檔案的建立（#31201），原文未給出具體的提速幅度。同版本更新了 macOS（Apple Silicon、Intel）、iOS XCFramework、Linux（含 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、SYCL、OpenVINO）、Android、Windows 與 openEuler 的預編譯包；
原標題：b11969
閱讀原文
| 評分 | 45 / 45（平均 45，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11799 為 SYCL 後端加入 q8 快速反量化
llama.cpp 發布 b11799 建置，新增 SYCL 後端的 q8 快速反量化（#30775），可提升 Intel GPU 上量化模型的推理效率。該版本同時提供 macOS、Linux、Windows、Android 的多平台預編譯包，涵蓋 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 版本；SYCL 建置則分為 FP32 與 FP16 兩版。
llama.cpp 發布 b11784，修復 SYCL IQ3 崩潰
llama.cpp 發布 b11784 建置，主要修復 SYCL 後端在 IQ3 量化下的崩潰問題（#30604）。同一版中，macOS Apple Silicon 的 KleidiAI 加速建置與 openEuler 建置被標記為 DISABLED，本輪不提供。
llama.cpp 升至 0.8.0，更新全平台預編譯包
llama.cpp 版本號升至 0.8.0，並同步更新了全平台預編譯包。macOS 提供 Apple Silicon（arm64）與 Intel（x64）建置及 iOS XCFramework；Windows 與 Ubuntu 覆蓋 x64/arm64 的 CPU、CUDA 12.8 與 13.4、Vulkan、SYCL、ROCm 10.0、OpenVINO 等後端。
llama.cpp SYCL 後端為 IQ3 加持久權重重排，解碼提速最高 82%
llama.cpp 的 SYCL 後端為 IQ3_S/IQ3_XXS 加入持久化權重重排，在 Intel Arc Pro B70 上解碼速度最高提升 82%。權重在載入時只重排一次，MMVQ 點積改用 dp4a 與 SWAR 符號擴充套件遍歷稠密超級塊，重排感知的反量化也接入批次 prefill 的 GEMM。
llama.cpp 發布 b11954，調整測試常量減少無關警告
llama.cpp 發布建置 b11954，本次唯一的程式碼改動是調整測試常量以減少無關警告（#31254）。預編譯包仍覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler，包含 CUDA 12、CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL，以及驍龍 CPU、Adreno GPU、Hexagon NPU 等後端；