2026 年 10 月 23 日，OpenAI 發布《Scaling Storage to One Billion Users》系列第二篇，介紹線上儲存系統 Habitat 的擴容方案：與 Azure Cosmos DB 合作改造儲存架構，把全球讀取中位延遲從約 120ms 降到約 10ms，官方稱相當於 12 倍改善… 看完整事件
OpenAI 儲存讀取延遲從約 120ms 降至約 10ms
OpenAI 將全球儲存讀取的中位延遲從約 120ms 降到約 10ms。官方稱，這一變化來自快取、複製以及 Python 到 Rust 的重寫共同作用，產品團隊因此需要管理的基礎設施更少、迭代更快。該訊息由 OpenAI Devs 發布，並連結到《Scaling Storage to One Billion Users, Part Two》一文。
給出儲存讀取延遲從約 120ms 降至約 10ms 的具體數字，並點明快取、複製與 Rust 重寫的作用，適合關注 OpenAI 基礎設施與效能最佳化的開發者。
原標題：@OpenAIDevs: Together, caching, replication, and the Python-to-Rust rewrite brought global median read latency f…
閱讀原文
| 評分 | 62 / 58（平均 60，門檻 60） |
|---|---|
| 狀態 | 精選 |
相關報導
OpenAI 向所有客戶開放 Decisions API，延遲降至百毫秒級
OpenAI 於週四向所有客戶開放 Decisions API，該 API 此前在 9 月 29 日開發者日發布。它並非專門訓練的決策模型，而是把 ChatGPT Luna 重新配置以加速推理、降低成本，延遲從 1 到 3 秒降到 100 至 180 毫秒；公開版還新增語音與視覺模態，並按地域部署推理資源以降低延遲。Speak 等早期客戶用它把動作間隔從 1.4 秒縮短到 0.13 秒；
OpenAI 宣布 GPT-6 提速 50%，第三方實測訂閱額度只有 Claude 的 1/5
OpenAI 兌現 28 天連更承諾的第 1 天更新：GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%，輸出從 30 TPS 提到 50 TPS，使用者無需操作、兩小時內生效，並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。
OpenAI 公開內部前沿模型數學成果與 Lean 形式化證明
OpenAI 於 2026 年 10 月 6 日發布由內部前沿模型產出的多項數學結果，以 GitHub 倉庫形式公開，併為其中許多證明提供 Lean 形式化驗證。倉庫同時給出 10 份模型推理摘要、以 ChatGPT Pro 用量折算的算力估算，以及嘗試題目數量的統計，平均每個結果約消耗相當於 3 小時 ChatGPT Pro 思考的算力。
@OpenAIDevs: You can now choose 12-hour prompt caching in the API.
OpenAI API 現在可以選擇 12 小時 prompt caching，快取輸入繼續按更低費率計費。該選項面向全天複用上下文的持久型 agent（如 dots）：共享指令、工具和上下文可以保留在快取中更久，即使兩次請求相隔數小時，仍可命中快取並支付 cached-input 價格。對需要長時間維持同一套上下文的 API 呼叫方，這意味著可在 12 小時內跨多次請求複用同一套上下文。
小紅書開源 DoSA，1M 上下文首 token 延遲最多降 48%
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA，在保持原始 Top-K 選擇結果完全等價的前提下加速索引器，約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界，提前排除約 97% 不可能入選的候選，只對剩餘候選做全部索引頭的精確打分。