Context Engineering 演講梳理四類上下文失效模式
作者在 AGNTCon 的演講中梳理上下文工程現狀,並總結四類上下文失效模式。演講回顧從 RAG 到百萬 token 長上下文的發展,指出長上下文並非萬能,會出現上下文汙染、分心、混淆與衝突。文中以 Gemini 2.5 玩《寶可夢》為例:FireRed 攻略中的“給守衛茶”進入上下文後,模型在舊版遊戲中耗時數小時找茶,說明錯誤資訊一旦寫入便難以擺脫。核心是判斷何時該確定性、何時該機率性處理。
依意思最接近的 30 筆
作者在 AGNTCon 的演講中梳理上下文工程現狀,並總結四類上下文失效模式。演講回顧從 RAG 到百萬 token 長上下文的發展,指出長上下文並非萬能,會出現上下文汙染、分心、混淆與衝突。文中以 Gemini 2.5 玩《寶可夢》為例:FireRed 攻略中的“給守衛茶”進入上下文後,模型在舊版遊戲中耗時數小時找茶,說明錯誤資訊一旦寫入便難以擺脫。核心是判斷何時該確定性、何時該機率性處理。
科大訊飛發布端雲一體星火 X2.6,上下文視窗擴至百萬 Tokens,並同步開源星火 X2.6-4B 端側模型;其端雲路由協同訓練機制把路由準確率從 81.2% 提升到 96.1%。同場首發的還有星辰 TaaS 平台、企業級智慧體協同平台 Agent OS,以及基於全國產算力訓練的語音基座模型 SparkAudio 1.0,實測效果提升 20%、回應時延降低 15%、呼叫成本下降 60%。
DeepSeek-V4.1-Flash-1017 已在 LM Studio Bionic 上線,支援 100 萬 token 上下文與影像輸入,官方稱其價效比很高。該模型由美國境內託管,並提供完整的零資料保留(ZDR)。LM Studio 建議將它用於 coding 任務。
Apertus 1.5 發布,在 8B 與 70B 兩個尺寸上新增影像與音訊理解、可選思考模式,上下文視窗擴至 262,144 token,為 1.0 的 4 倍。權重已於 2026 年 7 月 24 日以 Apache 2.0 許可上傳 Hugging Face,技術報告同步公開。模型由第一代繼續預訓練而來,8B 增加 4 萬億 token、70B 增加 2 萬億,總量分別達 19T 與 17T。
蘋果基礎大模型團隊與杜克大學提出 LensVLM,先把長上下文渲染成壓縮頁面影像讓模型瀏覽,再按需展開相關頁面讀取原文,在七項文字問答評測中以 4.3 倍有效壓縮達到 68.9% 平均準確率,接近完整文字參照的 72.4%。模型基於 Qwen3.5-9B-Base 經監督微調與強化學習訓練,15 倍壓縮下準確率由基礎模型的 18.1% 提升到 52.1%;
llama.cpp 發布 b11860 版本,唯一的程式碼變更是修復 test-llama-context 在大 n_batch 下的失敗(#31083)。該版本同時提供各平台預編譯包:macOS 有 Apple Silicon(其中 KleidiAI 版被停用)與 Intel 版,另有 iOS XCFramework;
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA,在保持原始 Top-K 選擇結果完全等價的前提下加速索引器,約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界,提前排除約 97% 不可能入選的候選,只對剩餘候選做全部索引頭的精確打分。
llama.cpp 發布 b11887,主要變更是調整 test-llama-context 的預設執行緒數(PR #31157)。同版本仍按慣例給出各平台預編譯產物:macOS Apple Silicon(arm64)、macOS Intel、Linux(CUDA 12、CUDA 13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Windows x64 與 arm64、Android arm64,以及 openEuler 昇騰 910b 的 ACL Gra…
JetBrains AI 團隊發文介紹其語義程式碼搜尋平台 Air Context 的 RAG 流水線,已投入生產環境。首篇聚焦解析、分塊與向量化:固定行數分塊會把 import 與函式體等無關程式碼混在一起,導致檢索錯誤,因此需按原始碼結構(如 Java 的 import、類定義、欄位與方法)劃分語義完整的塊。
Anthropic 推出 Claude Haiku 5.5(claude-haiku-5-5),面向高併發與低延遲場景。該模型提供 1M token 上下文視窗、128k 最大輸出 token,並支援通過 effort 引數調節的自適應思考。已在 Claude API、Amazon Bedrock、AWS 上的 Claude Platform、Google Cloud 和 Microsoft Foundry 上線。
Cloudflare 披露 Workers AI 上的 GLM-5.3 出現跨請求 KV 快取洩露,155 條回應混入了其他使用者請求的資料。問題從 8 月 27 日持續到 9 月 9 日,隻影響長度超過 681,280 token 的提示詞:上下文視窗設為 1,048,576 token,但 prefill KV 池只有 681,280 token,SGLang 遇到超長請求時沒有返回錯誤,解碼節點反而讀取了殘留的快取頁。
DeepSeek 上線 V4.1 Flash 1017,552B 總引數 / 16B 啟用 MoE,支援 1M token 上下文,MIT 許可,API 價格維持每百萬輸入 0.30 美元、輸出 1.20 美元,閒時半價。Artificial Analysis 智慧指數升至 45(+6),在開源權重模型中與 GLM-5.3 並列第二,僅次於 MiMo-V2.6-Pro;Code Arena WebDev 與 Agent Arena 均為開源第一。
Kimi K2.5 發布,官方稱其為迄今最強開源模型,原生多模態,在 K2 基礎上用約 15T 視覺與文字混合 token 繼續預訓練。其 Agent Swarm 可自行組織最多 100 個子智慧體、執行最多 1500 次工具呼叫,相比單智慧體執行時間最多縮短 4.5 倍。模型已上線 Kimi.com、App、API 和 Kimi Code;
Kimi 開源最新模型 K2.6,主打編碼、長程執行與 agent swarm,已上線 Kimi.com、App、API 和 Kimi Code。官方稱其在 Mac 上本地部署 Qwen3.5-0.8B 並用 Zig 實現推理最佳化,經 4000+ 次工具呼叫、12 小時、14 輪迭代,吞吐從約 15 提升到約 193 tokens/s,比 LM Studio 快約 20%;另以 13 小時重構 8 年曆史的 exchange-core,中等吞吐提升 185%。
OpenAI API 現在可以選擇 12 小時 prompt caching,快取輸入繼續按更低費率計費。該選項面向全天複用上下文的持久型 agent(如 dots):共享指令、工具和上下文可以保留在快取中更久,即使兩次請求相隔數小時,仍可命中快取並支付 cached-input 價格。對需要長時間維持同一套上下文的 API 呼叫方,這意味著可在 12 小時內跨多次請求複用同一套上下文。
復旦 NLP 團隊發布主動式個人助手 A5,能在多次會話間積累對使用者與專案的理解,並在接入資料發生變化時主動提出後續建議。A5 Harness 通過 Context 索引、Memory 系統、Diff Engine 與 Proposal Engine 維護終身上下文:演示中它能把使用者對陶瓷的興趣遷移到新的旅行規劃,也能在需求文件從個人使用改為團隊共用時調整存取權限方案。技術預覽 v0.3.1 安裝包已開放下載,支援 macOS 與 Linux,程式碼將隨後開源。
OpenAI 上線 GPT-6.1 Terra,這是一款主打視覺推理、精確電腦操作與自然寫作的快速模型。定價為輸入每百萬 token 1 美元、輸出 5 美元,快取輸入 0.05 美元;上下文視窗 105 萬 token,單次最多輸出 12.8 萬 token,知識截止 2026 年 6 月 1 日。
Claude Code 發布 v2.1.311,標準上下文會話在請求超過 200K 令牌時不再以「需要 1M 上下文的用量額度」中斷,而是壓縮對話後繼續。自託管 runner 新增 --hold-idle-file 與 --max-hold-min,可在主機報告遺留程序時保持空閒會話。
Higgsfield AI 藉助 GPT-6 Astra,把 AI 生成影片的時長從原先約 1 分鐘提升到 10 分鐘以上,CEO Alex Mashrabov 稱這緩解了長影片中畫面一致性的難題。配合 GPT-Image-2.5,平台可穩定渲染影像上的文字與資訊圖,服務缺少製作預算的小商家。Codex 讓約 200 名創意人員把想法直接做成軟體原型,團隊還用 GPT-6 Astra 生成長度超 10 分鐘的教學影片。
輝達宣布計劃投資 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英國 AI 初創公司,並承諾五年投入 2.5 億美元算力,用於強化英國的 agentic 安全與安全研究。這五家公司分別做生物分子模型與藥物設計、超大規模資料中心等基建專案的完工預測、自動編寫並最佳化演算法的發現引擎、面向阿茲海默症等疾病的生物基礎模型,以及跨量子位元型別的即時糾錯軟硬體。
量子位發文吐槽,Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析,除 Coding 過擬合外,更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」,OpenAI 最早這麼做,同樣一句話的 Token 消耗比白話文少 70%;Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯,而 Gemini 因輸出風格正常、排版層級清晰,被社群視為少數還能正常溝通的 AI。
2026 年 7 至 9 月,OpenAI、Anthropic 和 Nvidia 的聯邦遊說支出都達到各自單季最高。其中 Nvidia 花 220 萬美元最多,Anthropic 為 210 萬,OpenAI 為 150 萬。與微軟、Google 等長期佈局華盛頓的大廠相比,這一規模並不算異常:微軟自 2021 年起每季至少 200 萬美元,Google 常在 300 萬以上;但這顯示三家 AI 公司正加大對政策制定的投入。
OpenAI 兌現 28 天連更承諾的第 1 天更新:GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%,輸出從 30 TPS 提到 50 TPS,使用者無需操作、兩小時內生效,並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
開發者 roofkid 發布 Ninfer 4080,在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ,實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮,程式碼已在 GitHub 開源並提供 Docker 映象。
過去四個月 OpenAI 與 Anthropic 輪番降價,部分模型降幅達 80%。7 月 30 日 GPT-5.6 Luna 直降 80% 至每百萬 token 輸入 0.20、輸出 1.20、快取讀取 0.02 美元;9 月 22 日 GPT-6 Sol 與 Claude Opus 5.5 同日發布,定價分別為 2/10/0.20 與 4/20/0.20 美元;9 月 29 日 GPT-6.1 Sol 又把快取讀取價砍半到 0.10 美元,與 Anthropic 持平。
OpenAI 為 ChatGPT 中的 GPT-6 Astra Pro 推送升級,回應速度更快,外掛與工具呼叫也有所改進,並新增多智慧體並行能力。多個 agent 可以分別處理同一任務的不同部分,使用者能跟蹤每個 agent 的進度,也可開啟已完成任務檢視其工作結果。該功能現面向 Pro 使用者在 Chat 標籤頁開放。
Kimi 發布最強模型 Kimi K3,引數規模 2.8T,具備原生視覺與 100 萬 token 上下文,並稱其為全球首個開源的 3T 級模型。官方承認整體效能仍落後於 Claude Fable 5 與 GPT 5.6 Sol,但在自家評測中穩定優於其他被測模型。該模型即日上線 Kimi.com、Kimi Work、Kimi Code 與 Kimi API,預設使用最高思考強度;完整權重將於 2026 年 7 月 27 日前開放。
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。
GPT-6 Astra Ultrafast 已在 OpenAI API 上線,並向符合條件的 ChatGPT Work 與 Codex 使用者開放,執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍,可縮短 coding agent 的編輯—測試—除錯迴圈,並減少工具呼叫之間的等待。開發者可通過 API 使用,訪問方式、價格與實現細節見 Ultrafast 指南。