llama.cpp releasesAI 評分31
llama.cpp b11598 為 laguna 模型載入 YaRN beta 後設資料
llama.cpp 發布 b11598 建置,主要變更是為 laguna 系列模型載入 YaRN beta 後設資料(#30331),該提交由 Codex 協助完成。
找到 4 筆;也可以試試 語意搜尋
llama.cpp 發布 b11598 建置,主要變更是為 laguna 系列模型載入 YaRN beta 後設資料(#30331),該提交由 Codex 協助完成。
llama.cpp 發布 b11912 建置,為 Laguna 模型啟用 MoE amax 重縮放,並宣告 Laguna SM 張量支援,主要是針對該模型的推理適配。此次同時更新了各平台預編譯包,覆蓋 macOS Apple Silicon、iOS、Windows 與 Linux 的 CUDA、Vulkan、ROCm、SYCL 等後端,並新增 arm64 CUDA 13 與 Snapdragon NPU 建置。
llama.cpp 修復了啟用語法(grammar)取樣時長 token 被誤判拒絕的問題。此前 llama_grammar_reject_candidates_for_stack 的深度限制按 token 的碼點數計算,凡是 256 字元及以上的 token 在 grammar 下都會被拒絕,例如 GLM-4.7-Flash 的 512 空格 token 和 Laguna-S-2.1 的長空格 token。
v0.40.12 為 MLX 後端新增 DFlash2 支援,這是本版最實質的功能變化;MLX 與 MLX-C 也同步升版,Gemma、Flint、Laguna 的提示處理(prompt)速度隨之提升。緊湊版 Gemma 4 視覺塔做了針對性調整,讓小尺寸圖片保留更多細節。llama.cpp 後端版本升至 b11901,屬常規跟進。更新日誌只列出條目,未給出提速幅度與適用硬體。