搜尋

找到 2 筆；也可以試試語意搜尋

llama.cpp releases10/9 13:57AI 評分41

llama.cpp b11526 修復 Vulkan rms_norm 溢位問題

llama.cpp 發布建置 b11526，主要修復 Vulkan 後端 rms_norm 工作組數量溢位（#30145）。該版本繼續為 macOS/iOS、Linux、Windows、Android 與 openEuler 提供多後端建置，覆蓋 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 以及驍龍平台的 Adreno GPU 與 Hexagon NPU；

地端推論開源 llama.cpp Vulkan RMS Norm 版本更新本地推理

閱讀原文

llama.cpp releases10/23 07:32AI 評分36

llama.cpp b11835：SYCL 將 device 傳入 mul_mat_uses_onednn

llama.cpp 發布 b11835 建置版本，主要變更是 SYCL 後端把 device 傳入 mul_mat_uses_onednn（#31014）。該版本同步提供 macOS Apple Silicon、Linux/Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等預編譯包，並包含 Android arm64 與 Snapdragon 的 CPU/Adreno GPU/Hexagon NPU 建置。

地端推論開源 llama.cpp SYCL 版本發布本地推理多後端建置

閱讀原文