llama.cpp releasesAI 評分42
llama.cpp b12004:推理預算遇到提示中的結束標籤即終止
llama.cpp 發布建置 b12004,common 模組的 reasoning budget forcing 改為在提示中出現結束標籤時終止推理,不再只等預算耗盡。
找到 2 筆;也可以試試 語意搜尋
llama.cpp 發布建置 b12004,common 模組的 reasoning budget forcing 改為在提示中出現結束標籤時終止推理,不再只等預算耗盡。
llama.cpp 發布建置 b11472,對符合條件、溫度為零的取樣鏈改用貪心選擇,CPU 與 grammar/reasoning-budget 路徑共用同一套貪心判定;動態溫度和顯式請求機率的場景仍保留分佈取樣,最終 top-k 且 k=1 之後也走貪心。改動由 Georgi Gerganov 參與,OpenAI Codex 協助,並在現有 sampler 測試中覆蓋常見取樣器選擇與機率行為。