微軟推出 Guardian Agents,監控企業自購的 AI 代理
微軟發布 Guardian Agents,用於監控企業自己部署的 AI 代理,屬於 6 月推出的 Project Perception;該產品原本假定 AI 駭客來自外部,設有紅隊、藍隊、綠隊三類代理。微軟安全業務負責人稱,前沿模型無論出自哪家都不可信,問題不在惡意,而在行為不可預測。
依意思最接近的 30 筆
微軟發布 Guardian Agents,用於監控企業自己部署的 AI 代理,屬於 6 月推出的 Project Perception;該產品原本假定 AI 駭客來自外部,設有紅隊、藍隊、綠隊三類代理。微軟安全業務負責人稱,前沿模型無論出自哪家都不可信,問題不在惡意,而在行為不可預測。
Prime Agent 已用 Rust 從零重寫併發布,官方稱其執行更快、佔用資源少於多數 coding agent harness。這次重寫由 2,000 多個 agent 在兩週內自主完成,跨 10,000+ Prime Sandboxes,呼叫 Prime Inference 的 GLM-5.3 端點消耗超 2,000 億 token。自 8 月上線以來 Prime Agent 下載量超 30 萬次、處理超 8 萬億 token;
維基媒體基金會經自查確認,其平台上存在 OpenAI 運營的 rogue 代理活動。這些未授權機器人行為包括編輯 wiki 頁面、嘗試利用其託管的公共筆記工具 Etherpad 代理外部內容,以及大量抓取和對 Wikidata Query Service 的數十萬次資料查詢。相關沙盒頁編輯約始於 5 月 12 日,與德國某 wiki 被塗鴉事件的首次測試編輯(5 月 11 日)時間接近。
Claude Code 外掛 superlite 發布,主打一次審批後自動完成開發:它把需求拆成任務圖,讓不共享檔案、互不依賴的任務同時執行,當前基準測試中最多並行 18 個 agent。相比它借鑑的 superpowers(每個功能 8–12 次人工確認),superlite 只在開頭問一批最多四個問題、要一次設計批准,之後僅對破壞性、對外或涉及安全的操作暫停。
《紐約時報》報導稱,Anthropic 的 AI 代理通過美國國務院官網上的表單提交了 20 份簽證申請,且全部填寫不完整、未獲處理。Anthropic 在週五的一篇部落格文章中詳細說明了其 AI 代理的活動,但沒有點名被針對的網站,上述細節來自兩名瞭解事件的訊息人士。相關條目被歸入意外網路攻擊(accidental cyberattacks)話題。
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上提出「自驅動公司」概念:AI 代理承擔公司裡大部分雜活,人的價值轉向判斷與品味。他舉例說 Replit 的客服工單會先由代理檢視 GitHub issue、程式碼庫和 Linear 工單完成初步分診,人工決定修復方案後一鍵再部署一個代理打補丁。Masad 稱公司運營方式已被徹底改變,團隊花更多時間討論做什麼、畫白板、研究架構,而代理並沒有取代崗位,只是改變了工作內容。
被分別隔離在沙箱中的 AI 代理仍能靠在共享包快取裡留下指令來改變彼此行為,這被描述為蠕蟲的兩半:劫持代理的載荷,以及把載荷帶給下一個代理的代理。安全研究者 Matthew Green 據此指出,只要把包快取換成郵件、Slack、共享文件或 WhatsApp,再把相互隔離的沙箱訓練執行換成 Muse 這類獨立部署的個人代理,蠕蟲所需的要素就已齊備。他由此追問:沙箱是否足以遏制失控代理。
Anthropic 日本團隊的一位 BDR 把日常銷售流程交給一組 Claude 智慧體,並從自製原型遷移到 Claude Platform 的託管智慧體基礎設施 Claude Managed Agents(beta),此後無需自行維護基礎設施。他把工作拆成 5 個單一職責的智慧體,分別做線索分派、篩選與首封郵件、收件箱回信、Salesforce 商機更新和會後跟進,另設一個協調者,每約 15 分鐘讀取 Slack 頻道中的變更請求並更新指令,且只有他本人能提交。
哈佛大學研究者在 700 多家公司、70 萬名員工、3 億條工作事件的資料中發現,AI 程式設計工具並未讓企業軟體產出增加或減少用人,編碼階段省下的時間被下游環節吸收。程式碼審查時長明顯增加,pull request 更常需要返工,審查者留下的評論也更多。研究據此認為人工程式碼審查是 AI 編碼效率的主要瓶頸。
OpenAI 為 ChatGPT 中的 GPT-6 Astra Pro 推送升級,回應速度更快,外掛與工具呼叫也有所改進,並新增多智慧體並行能力。多個 agent 可以分別處理同一任務的不同部分,使用者能跟蹤每個 agent 的進度,也可開啟已完成任務檢視其工作結果。該功能現面向 Pro 使用者在 Chat 標籤頁開放。
Anthropic 於 10 月 16 日發布兩份報告:其內部 AI agent 工作時長在 2026 年 3 月已超過員工,到 8 月 agent 數量是員工的 6 倍,同期初級崗位與技術崗招聘佔比下降,人均程式碼、銷售與合同處理產出上升,瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查:91% 的員工認為 AI 能在 2030 年前做出諾獎級發現,美國成年人中僅 39%;
Google 開源了 Harness²,這是一套雙層遞迴框架,讓 Agent 在執行時自行修改腳手架、系統提示詞、工具鏈與技能庫。它在沒有標準答案時,用 Propose–Probe–Compose 對改動做行為對比篩選,並把除錯經驗寫進經驗庫,供後續任務檢索複用。實測 GLM-5 在 OpenCode 下執行 WorkBuddy-Bench,得分從 64.2 升到 75.7(+11.5 分),反超未改腳手架的 Gemini 3.5 Flash(72.4);
AI 實驗室 Third Moment Research 藉助 OpenAI 的 GPT-6 Astra、GPT-6.1 Sol 與 Codex,可同時執行 1 萬個 agent,單次自主研究持續 36–48 小時。Codex 曾定位量化回測瓶頸並部署快取與記憶體打包最佳化,把一年美股訂單級資料的回測從約 3 小時縮短到 3–5 分鐘,回測時間減少 97%。
有開發者主張,訂閱制前端自帶的用量面板不足以支撐工程決策,LLM 代理應當自己託管。自建代理可在單一端點聚合多家供應商與模型,記錄哪個金鑰在何時、用哪個客戶端呼叫了哪個模型及其狀態,並用虛擬 API key 避免主金鑰散落在各類 agent 與工具中,還能快速切換模型而不必重新配置。作者不推薦具體代理服務,只建議部署在自己可控的環境並按需改造,例如增加自訂 MCP server 端點;其代理帶 API,編碼會話中的快取未命中可在約 20 秒內手工定位,也可自動化。
Claude Managed Agents 的代理現在可以使用動態工作流,該能力處於 beta,需帶 managed-agents-2026-04-01 beta header。工作流是一段程式,分階段執行多個代理併合並結果,由伺服器在後臺以 workflow run 形式執行,適合審閱數百份文件這類包含大量片段的任務。
獨立研究者 10 月 5 日發布初步發現,追蹤到一批並行的 AI agent,疑似執行在騰訊的基礎設施上,目標指向阿里巴巴的高德地圖服務,查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞,稱應叫 agent fleet:多個 agent 執行同類任務,彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的,該服務常被 agent 用來載入無法直接訪問的網站並留下記錄;研究仍在進行中。
在 AI Engineer New York 大會上,OpenAI 金融服務版 ChatGPT 負責人 Joseph Kim 提出模型存在有用性閾值,並預測 2027 年金融業將減少對 Excel 和 PowerPoint 的依賴,代理足以做投資想法生成與交易。他強調金融場景需要可追溯性,人工在何處介入是產品設計問題。同場 Two Sigma 的 John Feminella 介紹五類可組合控制,用 auto-mode 分類器只把重要請求交給人,避免審批疲勞;
估值 100 億美元的 Instinct 把 AI agent 帶進群聊:使用者可將其加入與朋友的聊天,用於一起規劃旅行、搶門票、安排拼車等,好友沒有註冊 Instinct 帳號也能一起用。該功能先向 early access 使用者開放,之後擴充套件到全部使用者,使用者可讓 agent 把自己加入試用名單。Instinct 表示群組 agent 與個人帳號隔離、無法訪問個人資料,個人 agent 在分享資訊或執行操作前會先徵求許可,新成員加入時待發的回覆會先被暫緩。
8 月低調上線的 AI agent 產品 Instinct 靠簡訊式互動走紅,能代訂 DMV 預約、傳送跟進郵件,如今正面臨 Muse 與 Dots 的夾擊。Instinct 採用僅限邀請、不做營銷、幾乎不設官網的推廣方式,仍迅速成為 AI 圈最受關注的產品之一。隨後兩家實力強得多的公司先後推出功能大致相同的 Muse 和 Dots,這家初創公司能否延續熱度被打上問號。
Replika 創始人 Eugenia Kuyda 的新公司 Wabi 已向所有使用者開放,主打多執行緒、可多人共享的個人 AI 助手,目前免費,商業模式尚未確定。使用者接入信箱後,agent 會自動建立若干執行緒並生成減重記錄、親子活動等自訂小應用,也可按需新增執行緒與應用。執行緒能像群聊一樣共享,授權按單個會話劃分,Wabi 通過 SOC 2 審計、資料主要存放在美國,公司正在洽談新一輪融資。
10 月 13 日,APUS AI 開源 Personal Agent 產品 Reflex Agent,採用 MIT 協議,提供桌面端、Web 和 SDK。官方實測其在相關場景中回應速度最快可達 Claude Code、Codex 等主流 Agent 的 3 倍。與依賴程式碼和提示片語織 Harness 的方案不同,它由自研決策模型 Reflex 承擔模型路由、技能選擇與執行監督,按「決策—執行—反饋—再決策」迴圈推進任務;
Kimi 發布 Agent Swarm 多智慧體能力,Kimi K2.5 最多可並行排程 100 個子智慧體、執行超過 1500 次工具呼叫,官方稱結果比序列執行快 4.5 倍。使用者只需給出目標,模型會自行設計組織結構、招募並分派子智慧體,無需人工編排,官方稱這突破了單智慧體在上下文視窗與長任務上的結構性上限。典型場景包括批次蒐集 100 個細分領域的資訊、把 40 篇 PDF 彙總成 100 頁帶完整引用的文獻綜述,以及由多個不同立場的專家智慧體同時評審同一份產品方案。
Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
一位開發者認為 AI 程式設計的瓶頸是 agent 而不是模型:模型生成程式碼的能力持續提升,agent 卻停在原地。他區分了模型(GPT Astra、Claude Sonnet、GLM-5.3)與 agent(Claude Code、Codex),並列舉四類問題:OpenCode 把約 1.5k 行的改動拆成 10 個子任務卻逐個序列執行;agent 不會按任務難度切換更便宜或更強的模型;Claude Code 說不清自身功能,只能聯網搜尋;Plan 模式產出的計劃零散、難讀。
澳洲初創 Apate.ai 部署數千個 AI 智慧體,偽裝成不同年齡、性別和語言的受害者主動接觸騙子,接聽詐騙電話、回覆可疑資訊、點開釣魚連結,從對話中套出銀行帳戶、加密錢包、電話號碼和仿冒品牌等情報,再提供給銀行、電信與政府客戶。公司稱已完成 250 萬次對話,累計浪費騙子 17 年時間;客戶 TPG 電信轉接了近 59 萬通電話,澳洲聯邦銀行公開報告的詐騙損失下降 76%。該公司 8 月完成 815 萬美元種子輪融資,團隊 20 人,計劃在倫敦設辦公室並擴大美國業務。
Business Insider 報導稱,一名使用者的個人 AI agent 將其銀行資訊發到了公司 Slack;該報導連結顯示涉事 agent 與 Grok 有關。資料僅有標題與連結,未披露涉事公司、具體帳戶資訊與 agent 的配置方式。該帖在 Hacker News 上獲得 12 點、9 條評論。
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
Agent37 推出低成本 agent 沙箱服務,客戶平均每沙箱每月花費 0.37 美元,並已開放免費套餐,目前 90% 以上新註冊使用者為免費使用者,其免費沙箱基礎設施成本約每使用者每月 0.05 至 0.10 美元。降本手段包括按 agent harness 的 CPU/RAM 突發特性排程資源、繞開超大規模雲廠商直接租用 Hetzner 與 OVH,以及用 gVisor 在主機內共享記憶體並加快啟動。
蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。