llama.cpp releasesAI 評分36
llama.cpp b11922 修正多序列回放與 partial state 測試
llama.cpp 發布 b11922，主要修正是讓多序列 split replay 與 partial state 的測試在已訓練模型上成立。原測試中回滾快照與參考上下文的 batch 形狀不同，狀態末位差異會被模型逐 token 放大；現在只比較每條序列的首個重放 token，並在 seq-1 的 tail 前把回滾狀態載回參考上下文。
找到 1 筆；也可以試試 語意搜尋
llama.cpp 發布 b11922，主要修正是讓多序列 split replay 與 partial state 的測試在已訓練模型上成立。原測試中回滾快照與參考上下文的 batch 形狀不同，狀態末位差異會被模型逐 token 放大；現在只比較每條序列的首個重放 token，並在 seq-1 的 tail 前把回滾狀態載回參考上下文。