llama.cpp releasesAI 評分34
llama.cpp 修復 TOPK_MOE 測試的 CI 抖動
llama.cpp 建置 b12128 修復了 TOPK_MOE 測試的 CI 抖動。原因是均勻隨機 logits 下兩個 expert 的分數可能只差一個 f32 ulp,在輸出範圍較窄的 sqrt_softplus 門控下尤其常見,後端與 CPU 相差幾個 ulp 就會選中另一個 expert 導致測試失敗。修法是在 host 上用雙精度重取樣,直到組選擇與最終 top-k 都有 1e-4 相對餘量;