搜尋

llama.cpp 修復語法取樣：超長 token 不再被誤拒

llama.cpp 修復了啟用語法（grammar）取樣時長 token 被誤判拒絕的問題。此前 llama_grammar_reject_candidates_for_stack 的深度限制按 token 的碼點數計算，凡是 256 字元及以上的 token 在 grammar 下都會被拒絕，例如 GLM-4.7-Flash 的 512 空格 token 和 Laguna-S-2.1 的長空格 token。