搜尋

找到 2 筆；也可以試試語意搜尋

llama.cpp releases11/2 15:51AI 評分36

llama.cpp b12047：SYCL dmmv 核心模板化

llama.cpp 發布建置 b12047，對 SYCL 後端的 dmmv（反量化矩陣向量乘）程式碼做清理與模板化：q8_0 重排 dmmv 併入通用模板，非 K 量化和 K-quant 的 dmmv 啟動器都改為模板實現。該版本同時提供 macOS、Linux、Windows、Android 等平台的預編譯包，其中 macOS Apple Silicon 的 KleidiAI 版本與 openEuler 建置被標記為 DISABLED。

地端推論開源 llama.cpp SYCL DMMV 量化版本發布

閱讀原文

llama.cpp releases10/12 09:19AI 評分43

llama.cpp 發布 b11565：SYCL 後端 DMMV 行尾讀取加保護

llama.cpp 發布 b11565 建置，主要改動是為 SYCL 後端的 DMMV 在行尾加上讀取保護，修復越界讀取（PR #29338）。這批預編譯產物同時更新了平台矩陣：macOS Apple Silicon 啟用 KleidiAI 的版本與 openEuler 兩項被標記為 DISABLED；macOS 與 iOS 另提供 Intel x64 與 XCFramework 產物；

地端推論開源 llama.cpp SYCL 版本發布本地推理建置產物

閱讀原文