搜尋

找到 2 筆；也可以試試語意搜尋

llama.cpp releases10/8 12:20AI 評分41

llama.cpp b11499 發布，CUDA 的 ROLL 運算支援非連續張量

llama.cpp 發布 b11499 建置，CUDA 後端改用位元組步長實現 roll，使 ROLL 運算可以作用於非連續張量（#29547）。該版本照例提供各平台預編譯產物：macOS Apple Silicon 與 Intel、iOS XCFramework，以及 Linux、Windows、Android 的 CPU、Vulkan、CUDA 12/CUDA 13、ROCm 10.0、OpenVINO、SYCL 建置，其中 CUDA 12 與 13 分別打包 12.8、1…

地端推論開源 llama.cpp CUDA b11499 本地推理多平台建置

閱讀原文

llama.cpp releases11/5 07:12AI 評分35

llama.cpp b12124：OpenCL 後端支援非連續 sigmoid

llama.cpp 發布 b12124 建置，核心變更是 OpenCL 後端新增對非連續（non-contiguous）張量 sigmoid 的支援（#31687），由高通工程師參與提交。該版本仍是覆蓋 macOS/iOS、Linux、Android、Windows 的多平台建置，包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 與 openEuler 昇騰等目標。

地端推論開源 llama.cpp OpenCL sigmoid 非連續張量版本發布

閱讀原文