AISpot

OpenAI 擴容 Habitat 儲存,ChatGPT 讀取速度提升 12 倍

OpenAI News官方公告產品與方案

OpenAI 介紹了線上儲存系統 Habitat 的擴容方案,使 ChatGPT 的讀取速度提升 12 倍,以支撐超過 10 億使用者。方案主要依靠可靠的多租戶架構、全域性快取,以及 Azure Cosmos DB 儲存層。這是該系列的第二篇,重點在工程實現細節。

官方首次披露支撐 10 億級 ChatGPT 使用者的儲存架構,並給出讀取速度提升 12 倍這一具體數字,對做大模型產品後端和大規模儲存的工程師有參考價值。

原標題:Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
閱讀原文

評分66 / 65(平均 65,門檻 60)
狀態精選

相關報導

X @OpenAI● 精選AI 評分86

ChatGPT 的 GPT-6 Astra Pro 升級,支援多智慧體並行處理任務

OpenAI 為 ChatGPT 中的 GPT-6 Astra Pro 推送升級,回應速度更快,外掛與工具呼叫也有所改進,並新增多智慧體並行能力。多個 agent 可以分別處理同一任務的不同部分,使用者能跟蹤每個 agent 的進度,也可開啟已完成任務檢視其工作結果。該功能現面向 Pro 使用者在 Chat 標籤頁開放。

機器之心● 精選AI 評分90

OpenAI 宣布 GPT-6 提速 50%,第三方實測訂閱額度只有 Claude 的 1/5

OpenAI 兌現 28 天連更承諾的第 1 天更新:GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%,輸出從 30 TPS 提到 50 TPS,使用者無需操作、兩小時內生效,並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。

TechCrunch AI● 精選AI 評分79

OpenAI 向所有客戶開放 Decisions API,延遲降至百毫秒級

OpenAI 於週四向所有客戶開放 Decisions API,該 API 此前在 9 月 29 日開發者日發布。它並非專門訓練的決策模型,而是把 ChatGPT Luna 重新配置以加速推理、降低成本,延遲從 1 到 3 秒降到 100 至 180 毫秒;公開版還新增語音與視覺模態,並按地域部署推理資源以降低延遲。Speak 等早期客戶用它把動作間隔從 1.4 秒縮短到 0.13 秒;

The Verge AI● 精選AI 評分81

ChatGPT Chrome 擴充套件升級,可讀取已開啟的標籤頁

ChatGPT 的 Chrome 擴充套件新增能力:在 ChatGPT 網頁版或桌面應用中 @Chrome 後,ChatGPT 可以檢視當前已開啟的瀏覽器標籤頁,用來生成更貼合頁面的回答或代使用者完成任務。OpenAI 稱這相當於把 computer use 能力帶給所有 Chrome 使用者,並演示了讓 ChatGPT 對比三個已開啟標籤頁中在考慮的沙發。此前作為獨立瀏覽器的 ChatGPT Atlas 已經停運。