llama.cpp releasesAI 評分41
llama.cpp 為 OpenCL 後端加入 Adreno 深度卷積
llama.cpp 建置 b11827 在 OpenCL 後端新增 depthwise conv2d(深度卷積)支援,並針對 Adreno GPU 做了適配,可讓部分卷積類模型在驍龍 Adreno GPU 上以 OpenCL 加速執行。該改動還提到改用本地 program、引數改用有符號型別,貢獻者來自高通。
找到 1 筆;也可以試試 語意搜尋
llama.cpp 建置 b11827 在 OpenCL 後端新增 depthwise conv2d(深度卷積)支援,並針對 Adreno GPU 做了適配,可讓部分卷積類模型在驍龍 Adreno GPU 上以 OpenCL 加速執行。該改動還提到改用本地 program、引數改用有符號型別,貢獻者來自高通。