2026 年 10 月 23 日,OpenAI 發布《Scaling Storage to One Billion Users》系列第二篇,介紹線上儲存系統 Habitat 的擴容方案:與 Azure Cosmos DB 合作改造儲存架構,把全球讀取中位延遲從約 120ms 降到約 10ms,官方稱相當於 12 倍改善… 看完整事件
@OpenAIDevs: We serve data in milliseconds to more than 1.2 billion users across 40 geographic regions.
OpenAI 開發者帳號披露,其與 Azure Cosmos DB 合作改造儲存架構,全球讀取延遲中位數改善 12 倍。該架構支撐其在 40 個地理區域、面向超過 12 億使用者的毫秒級資料服務。帖文只給出了延遲改善倍數和使用者規模,未說明具體延遲數值、改造週期和涉及的產品線。
原標題:@OpenAIDevs: We serve data in milliseconds to more than 1.2 billion users across 40 geographic regions.
閱讀原文
| 評分 | 42 / 42(平均 42,門檻 60) |
|---|---|
| 狀態 | 未入選 |
相關報導
OpenAI 向所有客戶開放 Decisions API,延遲降至百毫秒級
OpenAI 於週四向所有客戶開放 Decisions API,該 API 此前在 9 月 29 日開發者日發布。它並非專門訓練的決策模型,而是把 ChatGPT Luna 重新配置以加速推理、降低成本,延遲從 1 到 3 秒降到 100 至 180 毫秒;公開版還新增語音與視覺模態,並按地域部署推理資源以降低延遲。Speak 等早期客戶用它把動作間隔從 1.4 秒縮短到 0.13 秒;
@OpenAIDevs: Your dot learns how you work, keeps context across apps, coordinates Codex tasks, and flags what ne…
OpenAI 開發者帳號發布預告,介紹一款名為 dot 的產品:它會學習使用者的工作方式,跨應用保留上下文,協調 Codex 任務,並標記需要使用者關注的事項。該訊息未披露發布時間、價格、支援平台或具體功能細節。
OpenAI 宣布 GPT-6 提速 50%,第三方實測訂閱額度只有 Claude 的 1/5
OpenAI 兌現 28 天連更承諾的第 1 天更新:GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%,輸出從 30 TPS 提到 50 TPS,使用者無需操作、兩小時內生效,並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。
小紅書開源 DoSA,1M 上下文首 token 延遲最多降 48%
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA,在保持原始 Top-K 選擇結果完全等價的前提下加速索引器,約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界,提前排除約 97% 不可能入選的候選,只對剩餘候選做全部索引頭的精確打分。
@OpenAIDevs: You can choose “12h”, keep the 30-minute default, or mix both in one request: 12h for shared instru…
OpenAI 開發者帳號宣布,提示快取的保留時長現在可以選擇 12 小時,也可以繼續使用預設的 30 分鐘,或在同一次請求裡混用兩種時長:共享指令用 12 小時,較新的對話內容用 30 分鐘。官方表示,如果一整天都要反覆複用同一段上下文,反覆命中快取省下的錢可能明顯超過 12 小時快取多出的成本。