Context Engineering 演講梳理四類上下文失效模式
作者在 AGNTCon 的演講中梳理上下文工程現狀,並總結四類上下文失效模式。演講回顧從 RAG 到百萬 token 長上下文的發展,指出長上下文並非萬能,會出現上下文汙染、分心、混淆與衝突。文中以 Gemini 2.5 玩《寶可夢》為例:FireRed 攻略中的“給守衛茶”進入上下文後,模型在舊版遊戲中耗時數小時找茶,說明錯誤資訊一旦寫入便難以擺脫。核心是判斷何時該確定性、何時該機率性處理。
用具體案例拆解長上下文常見失效機制,對建置 agent、RAG 與提示詞系統的人有直接參考價值。
原標題:The State of Context Engineering
閱讀原文
| 評分 | 63 / 66(平均 64,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Claude Code 修復切換小上下文模型擅自消耗額度
Claude Code 發布 v2.1.301:切換到上下文視窗更小的模型時,過長的會話現在先由原模型摘要,並修復了此前未經詢問就用原模型做摘要、消耗用量額度的問題。該版本新增環境變數 CLAUDE_CODE_RETRY_WATCHDOG_MAX_USAGE_LIMIT_WAIT_MS,讓無人值守重試模式在限額重置時間過遠時結束請求,而不是繼續等待。此外 vim 模式新增 % 跳轉配對括號,輸入框支援多行文字(Enter 提交、Shift+Enter 換行)。
JetBrains 分享程式碼語義搜尋 RAG 流水線經驗
JetBrains AI 團隊發文介紹其語義程式碼搜尋平台 Air Context 的 RAG 流水線,已投入生產環境。首篇聚焦解析、分塊與向量化:固定行數分塊會把 import 與函式體等無關程式碼混在一起,導致檢索錯誤,因此需按原始碼結構(如 Java 的 import、類定義、欄位與方法)劃分語義完整的塊。
RLTL;DR:讓模型從失敗中自寫反饋實現自我改進
論文提出 RLTL;DR 方法:在可驗證獎勵強化學習(RLVR)中,當任務難到模型幾乎無法成功、又沒有教師模型或範例解可蒸餾時,讓策略在每次失敗後檢視驗證器輸出,並自行寫出一條 TL;DR 式反饋,下一次 rollout 以此為條件。該方法面向自我改進場景,替代只最佳化成功嘗試的常見做法。
b11536: ui: Models Manager Follow-up Improvements (#30228)
llama.cpp 新版本 b11536 讓 server 的 GET /models 直接返回每個模型的訓練上下文長度(context_length),資料取自 GGUF 後設資料,無需載入模型或請求 Hugging Face Hub。新增的 common_get_gguf_n_ctx_train 只讀後設資料、相容 u32 與 u64,檔案缺失或無效時返回 0,router 列表因此可離線攜帶該欄位。
llama.cpp 修復繁忙 slot 被載入錯誤上下文的問題
llama.cpp 新版修復了請求指定繁忙 id_slot 時的上下文錯亂問題。此前這類請求仍會先在該 slot 上執行 prompt cache 更新,若 RAM 快取命中更好的匹配,就會把新上下文載入仍在生成中的 slot,導致生成在錯誤上下文上繼續;現在繁忙 slot 會原樣返回,請求排隊等待(#30295)。