AISpot

搜尋

找到 1 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分43

llama.cpp b11564:Vulkan 後端專門化 CM2 量化塊大小

llama.cpp 發布 b11564 建置,Vulkan 後端為 CM2 matmul 專門化量化塊大小,並改用三元表示式避免 switch 降低帶來的開銷,同時澄清了相關注釋。該版本照例附帶全平台建置,涵蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,包括 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。