2026 年 10 月 20 日，OpenAI 開發者帳號 @OpenAIDevs 宣布，API 的提示快取（prompt caching）保留時長新增 12 小時選項，快取輸入繼續按更低費率計費。開發者可以選擇「12h」、沿用 30 分鐘預設值，或在同一次請求中混用兩種時長：共享指令用 12 小時，較新的對話內容用… 看完整事件
@OpenAIDevs: You can choose “12h”, keep the 30-minute default, or mix both in one request: 12h for shared instru…
OpenAI 開發者帳號宣布，提示快取的保留時長現在可以選擇 12 小時，也可以繼續使用預設的 30 分鐘，或在同一次請求裡混用兩種時長：共享指令用 12 小時，較新的對話內容用 30 分鐘。官方表示，如果一整天都要反覆複用同一段上下文，反覆命中快取省下的錢可能明顯超過 12 小時快取多出的成本。
快取保留時長從預設 30 分鐘擴充套件到 12 小時，並支援在同一請求內混用兩種時長；官方還給出了全天複用場景下節省高於額外成本的判斷，對長期呼叫 API 的開發者有參考價值。
原標題：@OpenAIDevs: You can choose “12h”, keep the 30-minute default, or mix both in one request: 12h for shared instru…
閱讀原文
| 評分 | 78 / 76（平均 77，門檻 60） |
|---|---|
| 狀態 | 精選 |
相關報導
Pi 1.3.0 發布，GPT-6 中途調整思考等級不再破壞快取
Pi 1.3.0 發布，在 OpenAI GPT-6（API key）上中途調整思考等級現在會保留 prompt cache；Kimi Code 改用官方客戶端的 Chat Completions 協議，K3、K3-256K 與 Kimi For Coding 中途新增工具也不再讓快取失效。切換模型時舊模型的 thinking 塊會被丟棄，不再以純文字傳給新模型；
Claude Code 加入空閒壓縮，長會話閒置約 54 分鐘後自動壓縮
Claude Code v2.1.299 新增空閒壓縮：超過 200K token 的會話閒置約 54 分鐘後會被自動壓縮，趕在一小時 prompt cache 過期前完成，避免下一條訊息重新處理全部上下文。壓縮閾值可用 CLAUDE_CODE_IDLE_COMPACT_MIN_TOKENS 調整，settings.json 裡的 idleCompaction: false 可關閉，兩者都需 v2.1.290 及以上。
Claude Code 恢復閒置會話前將提示 5 小時額度消耗
Claude Code v2.1.304 為 Pro 和 Max 套餐新增提示：恢復閒置會話時如果會佔用 5 小時用量限額的明顯份額，會先告知，可選擇繼續恢復或新建會話。該版本還把 /auto-mode-setup 引導式配置擴充套件到 Bedrock、Vertex、Foundry、Claude apps gateway 以及關閉遙測的會話。
Neuralwatt 實測：harness 快取差異可讓請求能耗翻倍
模型雲服務商 Neuralwatt 分析一個月流量發現，同一模型下不同 agent harness 的 prompt 快取命中率差異明顯，未快取輸入佔 1.6%–11.1%，而一次快取未命中會讓請求能耗約為全快取時的兩倍，GLM-5.3 上接近 2.5 倍。命中率 92% 相當於每 100 個輸入 token 有 8 個未快取，97% 時只有 3 個，prefill 工作量相差 2.7 倍。
llama.cpp server 的 prompt cache 只儲存可恢復狀態
llama.cpp 更新 server 的 prompt cache 邏輯：現在只儲存可恢復的 slot 狀態（PR #30498）。此前每個任務啟動時都會把空閒 slot 全部寫入快取，rerank、embedding、decision、infill 的狀態填滿快取卻從不被讀回；