AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

OpenAI News● 精選AI 評分65

OpenAI 擴容 Habitat 儲存,ChatGPT 讀取速度提升 12 倍

OpenAI 介紹了線上儲存系統 Habitat 的擴容方案,使 ChatGPT 的讀取速度提升 12 倍,以支撐超過 10 億使用者。方案主要依靠可靠的多租戶架構、全域性快取,以及 Azure Cosmos DB 儲存層。這是該系列的第二篇,重點在工程實現細節。

Hacker News front pageAI 評分47

字節跳動發布 USDB 推薦系統儲存,寫延遲降 85.8%

字節跳動在 arXiv 發布 USDB,一套面向下一代推薦系統的統一序列儲存,生產遷移後平均寫延遲降低 85.8%、基礎設施成本降低 42.1%。它通過 CascadeLSM 按時間分級壓縮、差異化副本共享持久檔案、部分轉儲重建推理輸入,並用混合列式格式加速投影讀取,統一服務流式與批處理負載。與最佳化版 RocksDB 序列基線相比,USDB 在多種投影和客戶端負載下長曆史讀取更快;聚合下推在受限接收預算下吞吐達到普通讀取的 8.5 倍。