AISpot

搜尋

找到 1 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分45

llama.cpp b11573:Vulkan 後端用打包 FMA 替代點積運算元做 f16 累加

llama.cpp 發布 b11573 建置,Vulkan 後端改用打包 FMA 做 f16 累加,不再使用獨立的點積運算元。新的 dot_product 實現每次 f16 FMA 打包兩行,並更名為 dot_product_v2。該版本照例提供各平台預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、SYCL、OpenVINO、Vulkan,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU;