OpenAI News● 精選AI 評分65
OpenAI 擴容 Habitat 儲存,ChatGPT 讀取速度提升 12 倍
OpenAI 介紹了線上儲存系統 Habitat 的擴容方案,使 ChatGPT 的讀取速度提升 12 倍,以支撐超過 10 億使用者。方案主要依靠可靠的多租戶架構、全域性快取,以及 Azure Cosmos DB 儲存層。這是該系列的第二篇,重點在工程實現細節。
找到 2 筆;也可以試試 語意搜尋
OpenAI 介紹了線上儲存系統 Habitat 的擴容方案,使 ChatGPT 的讀取速度提升 12 倍,以支撐超過 10 億使用者。方案主要依靠可靠的多租戶架構、全域性快取,以及 Azure Cosmos DB 儲存層。這是該系列的第二篇,重點在工程實現細節。
字節跳動在 arXiv 發布 USDB,一套面向下一代推薦系統的統一序列儲存,生產遷移後平均寫延遲降低 85.8%、基礎設施成本降低 42.1%。它通過 CascadeLSM 按時間分級壓縮、差異化副本共享持久檔案、部分轉儲重建推理輸入,並用混合列式格式加速投影讀取,統一服務流式與批處理負載。與最佳化版 RocksDB 序列基線相比,USDB 在多種投影和客戶端負載下長曆史讀取更快;聚合下推在受限接收預算下吞吐達到普通讀取的 8.5 倍。