搜尋

b12006: memory: refuse rollbacks past the snapshots of the last ubatch (#31368)

llama.cpp 建置 b12006 讓 recurrent 快取與 DSV4 快取拒絕超出上一個 ubatch 所保證快照的回滾。此前 seq_rm 允許回滾到 n_rs_seq 內的任意位置，即使該快照並非由上一個 ubatch 寫入；新邏輯下，n 個 token 的 ubatch（n <= n_rs_seq+1）只保證回滾到 n-1，更長的 ubatch 只保證 0，DSV4 的上限則是 min(n, n_rs_seq)，其快照由 ubatch 前的狀態重建。