AISpot

Context Engineering 演講梳理四類上下文失效模式

Hacker News front page觀點研究開發工具

作者在 AGNTCon 的演講中梳理上下文工程現狀,並總結四類上下文失效模式。演講回顧從 RAG 到百萬 token 長上下文的發展,指出長上下文並非萬能,會出現上下文汙染、分心、混淆與衝突。文中以 Gemini 2.5 玩《寶可夢》為例:FireRed 攻略中的“給守衛茶”進入上下文後,模型在舊版遊戲中耗時數小時找茶,說明錯誤資訊一旦寫入便難以擺脫。核心是判斷何時該確定性、何時該機率性處理。

用具體案例拆解長上下文常見失效機制,對建置 agent、RAG 與提示詞系統的人有直接參考價值。

原標題:The State of Context Engineering
閱讀原文

評分63 / 66(平均 64,門檻 76)
狀態未入選

相關報導

Claude Code releasesAI 評分46

Claude Code 修復切換小上下文模型擅自消耗額度

Claude Code 發布 v2.1.301:切換到上下文視窗更小的模型時,過長的會話現在先由原模型摘要,並修復了此前未經詢問就用原模型做摘要、消耗用量額度的問題。該版本新增環境變數 CLAUDE_CODE_RETRY_WATCHDOG_MAX_USAGE_LIMIT_WAIT_MS,讓無人值守重試模式在限額重置時間過遠時結束請求,而不是繼續等待。此外 vim 模式新增 % 跳轉配對括號,輸入框支援多行文字(Enter 提交、Shift+Enter 換行)。

Hacker News front pageAI 評分68

JetBrains 分享程式碼語義搜尋 RAG 流水線經驗

JetBrains AI 團隊發文介紹其語義程式碼搜尋平台 Air Context 的 RAG 流水線,已投入生產環境。首篇聚焦解析、分塊與向量化:固定行數分塊會把 import 與函式體等無關程式碼混在一起,導致檢索錯誤,因此需按原始碼結構(如 Java 的 import、類定義、欄位與方法)劃分語義完整的塊。

Apple Machine Learning ResearchAI 評分58

RLTL;DR:讓模型從失敗中自寫反饋實現自我改進

論文提出 RLTL;DR 方法:在可驗證獎勵強化學習(RLVR)中,當任務難到模型幾乎無法成功、又沒有教師模型或範例解可蒸餾時,讓策略在每次失敗後檢視驗證器輸出,並自行寫出一條 TL;DR 式反饋,下一次 rollout 以此為條件。該方法面向自我改進場景,替代只最佳化成功嘗試的常見做法。

llama.cpp releasesAI 評分45

b11536: ui: Models Manager Follow-up Improvements (#30228)

llama.cpp 新版本 b11536 讓 server 的 GET /models 直接返回每個模型的訓練上下文長度(context_length),資料取自 GGUF 後設資料,無需載入模型或請求 Hugging Face Hub。新增的 common_get_gguf_n_ctx_train 只讀後設資料、相容 u32 與 u64,檔案缺失或無效時返回 0,router 列表因此可離線攜帶該欄位。

llama.cpp releasesAI 評分46

llama.cpp 修復繁忙 slot 被載入錯誤上下文的問題

llama.cpp 新版修復了請求指定繁忙 id_slot 時的上下文錯亂問題。此前這類請求仍會先在該 slot 上執行 prompt cache 更新,若 RAM 快取命中更好的匹配,就會把新上下文載入仍在生成中的 slot,導致生成在錯誤上下文上繼續;現在繁忙 slot 會原樣返回,請求排隊等待(#30295)。