AISpot

字節跳動發布 USDB 推薦系統儲存,寫延遲降 85.8%

Hacker News front page新聞報導研究

字節跳動在 arXiv 發布 USDB,一套面向下一代推薦系統的統一序列儲存,生產遷移後平均寫延遲降低 85.8%、基礎設施成本降低 42.1%。它通過 CascadeLSM 按時間分級壓縮、差異化副本共享持久檔案、部分轉儲重建推理輸入,並用混合列式格式加速投影讀取,統一服務流式與批處理負載。與最佳化版 RocksDB 序列基線相比,USDB 在多種投影和客戶端負載下長曆史讀取更快;聚合下推在受限接收預算下吞吐達到普通讀取的 8.5 倍。

原標題:USDB: Scaling Storage for Next-Generation Recommender Systems at ByteDance
閱讀原文

評分52 / 42(平均 47,門檻 76)
狀態未入選

相關報導

機器之心● 精選AI 評分78

小紅書開源 DoSA,1M 上下文首 token 延遲最多降 48%

小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA,在保持原始 Top-K 選擇結果完全等價的前提下加速索引器,約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界,提前排除約 97% 不可能入選的候選,只對剩餘候選做全部索引頭的精確打分。

Hacker News front pageAI 評分41

Jukebox-OS 發布:為 AI agent 加上 ACID 事務與確定性回放

開源專案 Jukebox-OS 發布,用 Rust 編寫的執行時為 AI agent 加上資料庫級 ACID 事務語義與確定性時間旅行回放。它把每次 LLM 請求、token 流、MCP 工具呼叫和檔案寫入經 BLAKE3 雜湊記錄到可移植的 .jbx 磁帶,副作用先暫存在 copy-on-write 的 WASI 沙箱,只有呼叫 commit 才真正落地,rollback 則不留痕跡。

X @OpenAIDevs● 精選AI 評分60

OpenAI 儲存讀取延遲從約 120ms 降至約 10ms

OpenAI 將全球儲存讀取的中位延遲從約 120ms 降到約 10ms。官方稱,這一變化來自快取、複製以及 Python 到 Rust 的重寫共同作用,產品團隊因此需要管理的基礎設施更少、迭代更快。該訊息由 OpenAI Devs 發布,並連結到《Scaling Storage to One Billion Users, Part Two》一文。

llama.cpp releasesAI 評分44

b12006: memory: refuse rollbacks past the snapshots of the last ubatch (#31368)

llama.cpp 建置 b12006 讓 recurrent 快取與 DSV4 快取拒絕超出上一個 ubatch 所保證快照的回滾。此前 seq_rm 允許回滾到 n_rs_seq 內的任意位置,即使該快照並非由上一個 ubatch 寫入;新邏輯下,n 個 token 的 ubatch(n <= n_rs_seq+1)只保證回滾到 n-1,更長的 ubatch 只保證 0,DSV4 的上限則是 min(n, n_rs_seq),其快照由 ubatch 前的狀態重建。

Latent Space● 精選AI 評分67

Supabase 推出免 Docker 本地執行時與宣告式 schema

Supabase 發布無需 Docker 的本地執行時(alpha)、把目標資料庫 schema 存進 Git 的宣告式工作流,以及可在資料庫旁執行容器的 Supabase Compute(私有 alpha)。同時,高可用 Postgres 方案 Multigres 進入私有 alpha,公司還收購了 Turso,支撐其「從原型到 PB 級」的定位。