AISpot
所屬事件:OpenAI API 提示快取新增 12 小時保留選項(1 個來源 · 2 則報導)

2026 年 10 月 20 日,OpenAI 開發者帳號 @OpenAIDevs 宣布,API 的提示快取(prompt caching)保留時長新增 12 小時選項,快取輸入繼續按更低費率計費。開發者可以選擇「12h」、沿用 30 分鐘預設值,或在同一次請求中混用兩種時長:共享指令用 12 小時,較新的對話內容用… 看完整事件

@OpenAIDevs: You can now choose 12-hour prompt caching in the API.

X @OpenAIDevs官方公告開發工具

OpenAI API 現在可以選擇 12 小時 prompt caching,快取輸入繼續按更低費率計費。該選項面向全天複用上下文的持久型 agent(如 dots):共享指令、工具和上下文可以保留在快取中更久,即使兩次請求相隔數小時,仍可命中快取並支付 cached-input 價格。對需要長時間維持同一套上下文的 API 呼叫方,這意味著可在 12 小時內跨多次請求複用同一套上下文。

OpenAI 將 API 的 prompt caching 明確擴充套件到 12 小時,並點名持久型 agent 可跨數小時請求複用共享指令、工具與上下文,按快取輸入價計費,對長時執行 agent 的開發者最有參考價值。

原標題:@OpenAIDevs: You can now choose 12-hour prompt caching in the API.
閱讀原文

同一事件共有 2 則報導(1 個來源),看事件全貌

評分80 / 80(平均 80,門檻 60)
狀態精選

相關報導

Hacker News front page● 精選AI 評分79

Neuralwatt 實測:harness 快取差異可讓請求能耗翻倍

模型雲服務商 Neuralwatt 分析一個月流量發現,同一模型下不同 agent harness 的 prompt 快取命中率差異明顯,未快取輸入佔 1.6%–11.1%,而一次快取未命中會讓請求能耗約為全快取時的兩倍,GLM-5.3 上接近 2.5 倍。命中率 92% 相當於每 100 個輸入 token 有 8 個未快取,97% 時只有 3 個,prefill 工作量相差 2.7 倍。

Pi changelogAI 評分46

Pi 1.3.0 發布,GPT-6 中途調整思考等級不再破壞快取

Pi 1.3.0 發布,在 OpenAI GPT-6(API key)上中途調整思考等級現在會保留 prompt cache;Kimi Code 改用官方客戶端的 Chat Completions 協議,K3、K3-256K 與 Kimi For Coding 中途新增工具也不再讓快取失效。切換模型時舊模型的 thinking 塊會被丟棄,不再以純文字傳給新模型;

X @OpenAIDevs● 精選AI 評分78

@OpenAIDevs: Let your app choose the right model, tool, or action in near real-time with Decisions API, now avai…

OpenAI 開發者帳號宣布,Decisions API 現已進入公開測試,面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作,官方給出的對比資料是:經由 Responses API 呼叫時,其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。