llama.cpp releasesAI 評分43
llama.cpp b11811 為 KleidiAI 增加 Q8_0 與 i8mm 核心
llama.cpp 發布建置 b11811,為 KleidiAI 後端新增 Q8_0 的 SVE dotprod GEMV 與 SVE i8mm GEMM 核心(#30808),即面向 Arm 平台的量化運算加速。
找到 1 筆;也可以試試 語意搜尋
llama.cpp 發布建置 b11811,為 KleidiAI 後端新增 Q8_0 的 SVE dotprod GEMV 與 SVE i8mm GEMM 核心(#30808),即面向 Arm 平台的量化運算加速。