MIPS 加速 RAG 檢索，面向百萬級向量庫
最大內積搜尋（MIPS）是 RAG、搜尋與推薦系統的核心環節，這篇內容討論的是如何讓這類檢索更快、更省。給定一個查詢向量，MIPS 要在數百萬條候選鍵向量中找出最匹配的一條，RAG 再把該鍵對應的原文文件拼接到查詢前面作為上下文。當鍵的數量漲到百萬級、向量維度達到數千維時，逐條窮舉搜尋的計算開銷會變得難以承受。
點明 RAG 檢索的真實瓶頸：百萬級鍵向量、數千維下窮舉搜尋成本難承受，對自建 RAG 檢索鏈路的開發者有參考價值。
原標題：Faster Retrieval for Better, More Efficient RAG
閱讀原文
| 評分 | 62 / 65（平均 63，門檻 60） |
|---|---|
| 狀態 | 精選 |
相關報導
pg_vectorsearch 推出 PRISM 索引，稱比 pgvector HNSW 更快
PostgreSQL 擴充套件 pg_vectorsearch 以 alpha 版發布，其 PRISM 索引在 1 億向量資料集上同等召回率下比 pgvector 的 HNSW 更快，且記憶體只需四分之一。PRISM 屬 IVF 風格，用層次化質心樹分割槽，配合 RaBitQ 量化與誤差界做兩階段過濾，距離計算針對 AVX2、AVX512、NEON 最佳化，並支援插入、更新、刪除的動態更新。
小紅書開源 DoSA，1M 上下文首 token 延遲最多降 48%
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA，在保持原始 Top-K 選擇結果完全等價的前提下加速索引器，約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界，提前排除約 97% 不可能入選的候選，只對剩餘候選做全部索引頭的精確打分。
Pensieve 本地索引接入 coding agent，工具呼叫減少 43%
Pensieve 推出 macOS 本地搜尋索引，通過 MCP 接入 Claude Code、Codex、Cursor 等 coding agent，讓它們先搜尋再讀檔案，而不是逐個 grep。
Box 將 Nvidia Nemotron 嵌入檢索系統，查詢快 4 倍
Box 在開發者大會上發布 Box Content Retrieval，把 Nvidia 的 Nemotron 嵌入模型裝進產品核心，讓 agent 檢索文件時更快、更準、更省。Nvidia 生成式 AI 軟體副總裁 Kari Briski 預計查詢速度提升 4 倍、錯誤減少 20%、token 消耗減少 90%。
JetBrains 分享程式碼語義搜尋 RAG 流水線經驗
JetBrains AI 團隊發文介紹其語義程式碼搜尋平台 Air Context 的 RAG 流水線，已投入生產環境。首篇聚焦解析、分塊與向量化：固定行數分塊會把 import 與函式體等無關程式碼混在一起，導致檢索錯誤，因此需按原始碼結構（如 Java 的 import、類定義、欄位與方法）劃分語義完整的塊。