llama.cpp releasesAI 評分43
llama.cpp 修復取樣圖:跨 ubatch 保持靜態,避免重分配建置中斷
llama.cpp 建置 b11530 修正了後端取樣圖的拓撲問題:現在每個 sampler 都建置 n_outputs_max_per_seq 條取樣鏈,使取樣圖在不同 ubatch 之間保持靜態。此前 reserve 階段按每個 sampler 建鏈,而 decode 階段按每行輸出建鏈,圖拓撲因此變化,導致 GGML_SCHED_NO_REALLOC 建置在下一次遇到同尺寸圖時中止。