Claude Enterprise 的 Inference hooks 結束 beta 正式上線
Anthropic 宣布 Inference hooks 已結束 beta 測試,向 Claude Enterprise 組織正式開放。公告未說明該功能的具體能力範圍、呼叫配額與計費方式,也未提及是否向其他訂閱方案開放。目前僅能確認適用範圍是 Claude Enterprise 組織,發布資訊只有這一句。
依意思最接近的 30 筆
Anthropic 宣布 Inference hooks 已結束 beta 測試,向 Claude Enterprise 組織正式開放。公告未說明該功能的具體能力範圍、呼叫配額與計費方式,也未提及是否向其他訂閱方案開放。目前僅能確認適用範圍是 Claude Enterprise 組織,發布資訊只有這一句。
DeepSeek 介紹 DeepInfer 推理引擎,包含高效能核心與最佳化推理引擎、分散式推理與投機解碼、SWA Bounded Replay 和結構化輸出。官方稱未來 DeepSeek 模型的推理程式碼及後續最佳化也將在此發布。帖文未給出效能資料、支援模型或上線時間。
Google 開源了 Harness²,這是一套雙層遞迴框架,讓 Agent 在執行時自行修改腳手架、系統提示詞、工具鏈與技能庫。它在沒有標準答案時,用 Propose–Probe–Compose 對改動做行為對比篩選,並把除錯經驗寫進經驗庫,供後續任務檢索複用。實測 GLM-5 在 OpenCode 下執行 WorkBuddy-Bench,得分從 64.2 升到 75.7(+11.5 分),反超未改腳手架的 Gemini 3.5 Flash(72.4);
DeepSeek 以 Apache 2.0 協議開源了支撐其大規模生產服務的推理框架 DeepInfer,目前僅支援 DeepSeek-V4.1-Flash 一個模型。該框架包含 FlashMLA、DeepGEMM、DeepEP 等最佳化核心,Attention DP 與 MoE EP+EPLB 並行,DSpark 投機解碼(草稿長度預設 5),以及預設開啟的非同步排程、批不變推理、確定性取樣,並支援正則、JSON schema、EBNF 結構化輸出。
DeepSeek 已將自研推理框架 DeepInfer 完整開源。該框架在其生產環境中支撐 DeepSeek-V4.1-Flash 的大規模推理服務,主打高吞吐與低延遲。官方表示,公開這套生產環境所用的推理元件是為了幫社群降低算力成本、減少能耗,讓 AI 更可負擔。推文未給出具體效能數字,硬體支援與部署方式需檢視開源倉庫。
8 月低調上線的 AI agent 產品 Instinct 靠簡訊式互動走紅,能代訂 DMV 預約、傳送跟進郵件,如今正面臨 Muse 與 Dots 的夾擊。Instinct 採用僅限邀請、不做營銷、幾乎不設官網的推廣方式,仍迅速成為 AI 圈最受關注的產品之一。隨後兩家實力強得多的公司先後推出功能大致相同的 Muse 和 Dots,這家初創公司能否延續熱度被打上問號。
蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。
Geoffrey Huntley 分享了一種約束 coding agent 的做法:與其去改 AGENTS.md 讓它使用自己的 diagnostics 庫,不如寫一個 pre-commit hook 檢查 git diff,一旦發現直接呼叫 observability 模組、繞過 diagnostics 的程式碼就拒絕提交,並注入提示要求 agent 改用該庫。他指出更新 AGENTS.md 仍會留下偏差、隨時間漂移,而 hook 把規則變成硬性門禁,效果立刻變成十分滿分。
Inception 發布擴散架構大模型 Mercury 3,稱在多項基準上超過 GPT-6 Luna 與 Claude Haiku 5.5,NVIDIA GPU 上速度達 1068 token/秒,為後兩者的 4–8 倍。其引數量比 Mercury 1 擴大 40 倍以上,上下文從 Mercury 2.5 的 260K 提升到 1M。定價為每百萬輸入 token 0.20 美元、輸出 0.70 美元,發布期五折,快取輸入再降 90%。
據 The Information 報導,Anthropic 正準備推出一款新模型,其推理與直覺判斷據稱超過現役所有商用 Claude 模型,並能從有限指令推斷出使用者未明說的目標。試用者舉例稱,讓它修復一個 Bug,它可能找出導致該 Bug 的一整類底層問題,並主動詢問是否一併修復;該模型的名稱、發布時間與評測成績均未公布。
xAI 於 2026 年 10 月 20 日在官網新聞頁發布了一篇題為 incident-sweep 的公告。該帖僅給出全文連結 x.ai/news/incident-sweep,未在正文中說明事件性質、影響範圍或處理進展。具體內容需要開啟原文檢視。
羅格斯大學、得州大學奧斯汀分校與普渡大學團隊提出線上審計模型 AgentForesight,用 7B 模型在任務執行中逐步讀取軌跡字首,在關鍵錯誤擴散成失敗前報警。在 AFTraj-2K 測試集上,其關鍵錯誤步驟識別 Exact-F1 達 66.44,比最強通用基線 DeepSeek-V4-Pro 高 19.88 分,成功軌跡誤報率僅 2.37%。
Goodfire 推出讀取模型內部啟用的監控探針,並作為 Baseten 平台功能向客戶開放,用於攔截失控的 AI 智慧體。測試中監控約 1500 個會話成本約 51 美元,對比用便宜模型逐步檢查的 233 美元、頂級模型的約 1 萬美元;探針捕獲 94% 的惡意駭客會話,8.7% 無害會話被送複查,四個探針並行讓模型回應啟動耗時增加不到 2%。客戶可自選監控攻擊性駭客、生化武器濫用、reward hacking 等風險,並設定記錄、人工審查或直接拒絕;
微軟聯合 Hugging Face 推出 ThinkingBox 基準,通過 Hugging Face 提供,不看 agent 的回覆文字和工具呼叫,只檢查它留在後端資料庫裡的最終狀態與副作用,每個任務重複跑 20 次。在 507 個有狀態業務流程、12 個模型、121,680 次有效試驗中,79,853 次未通過可執行檢查,其中 67.24% 仍乾淨收尾且無工具報錯。
Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。
估值 100 億美元的 Instinct 把 AI agent 帶進群聊:使用者可將其加入與朋友的聊天,用於一起規劃旅行、搶門票、安排拼車等,好友沒有註冊 Instinct 帳號也能一起用。該功能先向 early access 使用者開放,之後擴充套件到全部使用者,使用者可讓 agent 把自己加入試用名單。Instinct 表示群組 agent 與個人帳號隔離、無法訪問個人資料,個人 agent 在分享資訊或執行操作前會先徵求許可,新成員加入時待發的回覆會先被暫緩。
Google AI Edge 的 Model Explorer 現在支援自訂編譯器中間表示,並提供 TOSA、VGF、PTE 等開源介面卡,面向端側機器學習。開發者可用分層圖視覺化、分屏檢視和逐節點 trace 疊加來發現匯出迴歸、驗證硬體委託,在本地定位到週期級的延遲瓶頸。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式第三方評測員並非解決模型安全問題的簡單答案,評測仍缺乏可復現性與統一標準。她指出評測方法更新很快、彼此之間難以橫向比較,且目前絕大多數評測針對模型本身,對 harness 和完整 agent 的評測既少又昂貴;而更強的 harness 可讓較弱模型跑贏前沿模型。她認為誰有資格評測哪些任務,需要更多標準化。
Honeyjar 推出一套 AI 公關與傳播工具,把資深公關的判斷力產品化,可自動撰寫公告、篩選記者、尋找演講機會並追蹤報導。公司稱候補名單開放 24 小時內收到 1 萬個報名,測試方包括 Nextdoor、Coco Robotics、Bloomberg Beta 以及 Mission North、Full Picture 等機構。工具不替使用者傳送,草稿仍需本人點選傳送或發布,強調把人類留在流程中;團隊還通過 Comms Lab 用其他公關從業者的判斷來訓練產品。
DeepSeek 發布 DeepSeek-V4.1-Flash-1017,該模型通過帶自我反饋的強化學習提升端到端專案開發能力,覆蓋從遊戲製作到 3D 建模的完整流程。官方以演示形式展示實際效果,未在帖文中給出引數規模、上下文長度或 API 價格等資訊。
OpenAI API 現在可以選擇 12 小時 prompt caching,快取輸入繼續按更低費率計費。該選項面向全天複用上下文的持久型 agent(如 dots):共享指令、工具和上下文可以保留在快取中更久,即使兩次請求相隔數小時,仍可命中快取並支付 cached-input 價格。對需要長時間維持同一套上下文的 API 呼叫方,這意味著可在 12 小時內跨多次請求複用同一套上下文。
在 AI Engineer New York 大會上,OpenAI 金融服務版 ChatGPT 負責人 Joseph Kim 提出模型存在有用性閾值,並預測 2027 年金融業將減少對 Excel 和 PowerPoint 的依賴,代理足以做投資想法生成與交易。他強調金融場景需要可追溯性,人工在何處介入是產品設計問題。同場 Two Sigma 的 John Feminella 介紹五類可組合控制,用 auto-mode 分類器只把重要請求交給人,避免審批疲勞;
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。
llm-echo 0.5 發布,這個除錯外掛不接入任何 LLM,只把收到的 prompt 原樣回顯,新版讓模擬的 token 用量統計把工具呼叫、系統提示詞和推理 token 都計算在內。
DeepSeek Harness 發布 v0.2.1-alpha.1,新增實驗性 Claude Code Mods 相容層,讓按 Claude Code Mods 介面編寫的擴充套件有機會接入 DSH 外掛系統執行。官方稱該相容層主要用於驗證 Mods API 能力,大致屬於 DSH 外掛能力的子集,暫不提供完整實用相容性;diff、agents-md、sec-default 和 telemetry 仍標註為不可執行。
DeepSeek 發布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,權重以 MIT 許可開放。官方稱其在推理、程式設計、Agent 與視覺基準上均有提升,同時縮短任務執行時間與輸出長度:Terminal-Bench 4.0 從 31.2 升至 42.3,Apex Bench v1.1 從 64.6 升至 72.1,HLE(無工具)從 36.8 升至 42.6。
OpenAI 開發者帳號宣布,Annotations 與 WebMCP 配對使用,可為 agent 提供更多可供行動的上下文。官方舉例來自開發者 @kagigz:他用自訂註釋控制元件與建議提示詞,讓使用者在 ChatGPT 的瀏覽器中編輯場景、更新支出。原文未披露 WebMCP 的適用範圍、可用時間或接入方式。
Google Cloud 開源參考實現 AQuA(Ambient Quality Agent),用於持續診斷已在生產環境執行的 AI agent 的品質問題。它與生產 agent 並排執行,掃描失敗聚類並對照對話記錄逐條驗證,再把根因定位到當時實際部署的原始碼快照。它針對的場景是:agent 做到 80% 之後難以繼續改進,且靜默的品質回退仍然返回 HTTP 200 OK。
近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。