llama.cpp releasesAI 評分41
llama.cpp 為 Hexagon NPU 新增 SGN 運算元支援
llama.cpp 建置 b11849 為高通 Hexagon NPU 新增 SGN(符號函式)運算元並擴充套件到 f16,同時改用符號位來最佳化該運算元實現。同一批提交還把維度摺疊(dims collapsing)移到 host 側求解器中執行,並放寬摺疊條件的判斷,使其適用更多情形。
找到 1 筆;也可以試試 語意搜尋
llama.cpp 建置 b11849 為高通 Hexagon NPU 新增 SGN(符號函式)運算元並擴充套件到 f16,同時改用符號位來最佳化該運算元實現。同一批提交還把維度摺疊(dims collapsing)移到 host 側求解器中執行,並放寬摺疊條件的判斷,使其適用更多情形。