搜尋

llama.cpp 為 Laguna 模型啟用 MoE amax 重縮放

llama.cpp 發布 b11912 建置，為 Laguna 模型啟用 MoE amax 重縮放，並宣告 Laguna SM 張量支援，主要是針對該模型的推理適配。此次同時更新了各平台預編譯包，覆蓋 macOS Apple Silicon、iOS、Windows 與 Linux 的 CUDA、Vulkan、ROCm、SYCL 等後端，並新增 arm64 CUDA 13 與 Snapdragon NPU 建置。