llama.cpp 更新 b12058,修復 imatrix 的 --nextn 崩潰
llama.cpp 發布 b12058 版本,主要修復了 imatrix 工具在使用 --nextn 引數時的崩潰問題(#31522)。同批建置覆蓋 macOS Apple Silicon、Linux(CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Windows、Android 與 openEuler 等多平台;其中 macOS Apple Silicon 的 KleidiAI 建置與 openEuler 建置仍為停用狀態。
原標題:b12058
閱讀原文
| 評分 | 38 / 35(平均 36,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 修復 Vulkan 後端 RDNA4 矩陣向量調優
llama.cpp 發布 b11389 版本,修復了 Vulkan 後端在 RDNA4 架構上的矩陣向量運算調優問題(PR #29934)。該版本繼續提供覆蓋 macOS、Linux、Windows、Android 等平台的預編譯二進位制,包括 Vulkan、CUDA、ROCm、SYCL 等後端,其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置被停用。
llama.cpp 修復 Metal 大矩陣偏移溢位問題
llama.cpp 建置版本 b11895 修復了 Metal 後端在大型矩陣輸出偏移時出現的整數溢位,同時加寬了 batch 偏移與 MUL_MAT_ID 的 token 索引。改動由 Codex 輔助完成,屬於影響大模型在 Apple Silicon 上推理正確性的底層修復,本次建置仍按慣例提供 macOS、Linux、Windows、Android 等多平台二進位制包。
llama.cpp 發布 b11467,imatrix 補上 clocale 標頭檔案
llama.cpp 發布建置版本 b11467,唯一程式碼改動是在 imatrix 中為 std::setlocale 引入 clocale 標頭檔案(#30079),屬於編譯相容性修復。
llama.cpp b11919 修正 OpenCL 矩陣乘法負索引
llama.cpp 發布 b11919,主要改動是修正 OpenCL 後端矩陣乘法中 id 為 -1 的索引處理(PR #31170,由 Codex 協助)。其餘為常規多平台建置產物更新,覆蓋 macOS Apple Silicon、iOS、Android、Windows 與 Linux 的 CPU、Vulkan、CUDA 12/13、ROCm、SYCL、OpenVINO 等後端。
llama.cpp b11693 修復 SYCL 後端 mul_mat 記憶體錯誤
llama.cpp 發布建置 b11693,核心改動是修復 SYCL 後端在 mul_mat、split buffer 和 host pool 中的記憶體錯誤(PR #29889)。該版本同時更新了預編譯產物清單,覆蓋 macOS/iOS、Linux、Windows、Android,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 以及 SYCL FP32/FP16 等後端。