搜尋

llama.cpp 為 Hexagon NPU 向量化 softplus 啟用

llama.cpp 把 Hexagon 後端的 softplus 啟用從標量迴圈改為 HVX 向量實現，Snapdragon NPU 上的推理可因此加速。softplus_f32 與 tile_softplus_f32 統一呼叫新的 hvx_softplus_f32_aa()，複用後端已有的 hvx_vec_exp_f32 與 hvx_vec_log_f32，不引入新的數值近似。