搜尋

百度開源文心 Unlimited OCR 2，峰值 KV 快取降約 96%

百度發布並開源文心 Unlimited OCR 2，百頁級單序列峰值 KV 快取從 47GB 降到 1.77GB，減少約 96%。它靠稀疏參考滑動視窗注意力 SR-SWA 與分塊無限解碼，可連續解析 3600 頁以上文件，16 路併發吞吐從 360 提升到 1315 Token/秒。MarathonDocBench 得 77.06、MPDocBench 得 84.59，單步解碼速度分別為全注意力和上代 R-SWA 的 7.0 倍與 5.6 倍。