2026 年 10 月 23 日，OpenAI 發布《Scaling Storage to One Billion Users》系列第二篇，介紹線上儲存系統 Habitat 的擴容方案：與 Azure Cosmos DB 合作改造儲存架構，把全球讀取中位延遲從約 120ms 降到約 10ms，官方稱相當於 12 倍改善… 看完整事件
@OpenAIDevs: We reserved broad replication for small, critical datasets like authentication metadata needed on e…
OpenAI Devs 表示，團隊用 Rust 重寫服務層，降低了代理開銷。對認證後設資料這類每個請求都必需的小型關鍵資料集，團隊保留了廣泛複製；設定和應用狀態等高頻訪問資料則由區域內快取提供。推文列出這三項基礎設施最佳化，但未給出延遲、吞吐等具體數字或生效範圍。
原標題：@OpenAIDevs: We reserved broad replication for small, critical datasets like authentication metadata needed on e…
閱讀原文
| 評分 | 38 / 55（平均 46，門檻 60） |
|---|---|
| 狀態 | 未入選 |
相關報導
Respan 開源 Rust AI 閘道器，核心精簡、一切皆外掛
Respan（YC W24）開源了用 Rust 編寫的 AI 閘道器：核心只負責分發事件，provider、協議（MCP、即時語音）、模態（影像、影片）以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝，服務數千家組織，封裝程式碼一度超過 10 萬行；今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤，只能回滾，因此團隊決定自行重寫。新增 provider 只需一個短檔案，Mistral 適配僅 22 行；
@OpenAIDevs: You can choose “12h”, keep the 30-minute default, or mix both in one request: 12h for shared instru…
OpenAI 開發者帳號宣布，提示快取的保留時長現在可以選擇 12 小時，也可以繼續使用預設的 30 分鐘，或在同一次請求裡混用兩種時長：共享指令用 12 小時，較新的對話內容用 30 分鐘。官方表示，如果一整天都要反覆複用同一段上下文，反覆命中快取省下的錢可能明顯超過 12 小時快取多出的成本。
DHH 讓 AI 重寫的 Rust 版 Campfire 高負載通知投遞率僅 1%
DHH 讓 AI agent 把 Campfire Once 從 Ruby on Rails 重寫為 Rust，並追加了 Elixir、Go 版本，而他本人並不閱讀程式碼；結果 Rust 版在高負載下新帖通知的投遞率只有 1%（6-7k 個事件中）。該版本還丟掉了 CSRF token 以便快取、用程序內佇列替代 Redis，未保持 100% 向後相容，部分資料庫操作與鎖也以阻塞方式跑在 async 任務裡。
OpenAI 向所有客戶開放 Decisions API，延遲降至百毫秒級
OpenAI 於週四向所有客戶開放 Decisions API，該 API 此前在 9 月 29 日開發者日發布。它並非專門訓練的決策模型，而是把 ChatGPT Luna 重新配置以加速推理、降低成本，延遲從 1 到 3 秒降到 100 至 180 毫秒；公開版還新增語音與視覺模態，並按地域部署推理資源以降低延遲。Speak 等早期客戶用它把動作間隔從 1.4 秒縮短到 0.13 秒；
OpenAI 將 RSI 列為戰略目標，MemoraX 展示記憶驅動自進化
OpenAI 於 9 月 21 日發布官方戰略宣告，把自動化 AI 研究員與遞迴自我改進（RSI）列為下一階段重要目標，並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員；Anthropic 同期披露，截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。