llama.cpp releasesAI 評分43
llama.cpp b11811 為 KleidiAI 增加 Q8_0 與 i8mm 核心
llama.cpp 發布建置 b11811，為 KleidiAI 後端新增 Q8_0 的 SVE dotprod GEMV 與 SVE i8mm GEMM 核心（#30808），即面向 Arm 平台的量化運算加速。
搜尋
找到 4 筆；也可以試試 語意搜尋
llama.cpp releasesAI 評分39
llama.cpp OpenCL 後端新增多個小批次 GEMM 變體並修復越界讀
llama.cpp 建置 b11763 為 OpenCL 後端補上多個面向小批次的 GEMM/GEMV 核心變體，並修復 mul_mv_mxfp4_f32_flat 的越界讀取。新增項包括 q4_k dp4a GEMM 的小批次變體、mul_mm_f16_f32_l4_lm 的窄化變體，以及大 M 時 gemv_noshuffle_q1_0_f32 的單 subgroup 變體，並按 workgroup 大小限制 q4_0 mc3 的 subgroup 數量。
llama.cpp releasesAI 評分43
llama.cpp 修復 Adreno A6x 的 OpenCL 核心編譯崩潰並支援 623
llama.cpp 建置 b11533 修復了 Adreno A6x GPU 上的 OpenCL 核心編譯崩潰，並把 Adreno 623 加入 A6X 檢測列表。具體做法是在 A6X 上跳過 kernel_cpy_f32_f32_pack——A623 的編譯器後端（E031.50.31.01）無法處理引數過多的核心；GEMV 核心裡的 get_local_size 也加了常量摺疊變通方案。
MLX releasesAI 評分39
MLX 發布 v0.32.1，修復 GGUF 載入與多項 Metal/CUDA 問題
蘋果 MLX 框架發布 v0.32.1，修復載入 GGUF 後設資料陣列時的 int64 型別轉換錯誤，並解決 Metal 自訂核心快取同名衝突、CUDA 批次 GEMV 網格溢位等問題。該版本還新增 Metal 全注意力支援 head dimension 96、gather_qqmm 運算元與複數支援，並補充 MLX 環境變數文件。