AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

Claude blog● 精選AI 評分81

Claude 平台公測 message threads,長會話首字延遲降約 35%

Anthropic 在 Claude 平台上線 message threads 公測:agent 每輪只需傳送新增訊息和上一次回應的 ID,不再重發全部歷史,以縮短長會話的首字延遲。多數 Claude Code 使用者已預設開啟,50 萬至 100 萬 token 的請求 TTFT 中位數下降約 35%。執行緒在記憶體中加密儲存、不寫磁碟,最後一次請求 5 分鐘後過期,客戶端需重發完整對話重建;Claude 每輪仍讀全量上下文,token 消耗不變。

Claude Platform release notes● 精選AI 評分76

Claude Messages API 上線 message threads 測試版,只發新訊息降低首 token 延遲

Anthropic 為 Claude Messages API 推出 message threads 測試版,長對話和 agent 迴圈中後續請求只需傳送新增訊息,從而降低首 token 延遲。對話歷史由服務端儲存,請求需帶上 message-threads-2026-08-12 beta header。執行緒在最後一次請求 5 分鐘後過期,並在最後使用後不超過 1 小時內刪除。