微軟推出 Guardian Agents,監控企業自購的 AI 代理
微軟發布 Guardian Agents,用於監控企業自己部署的 AI 代理,屬於 6 月推出的 Project Perception;該產品原本假定 AI 駭客來自外部,設有紅隊、藍隊、綠隊三類代理。微軟安全業務負責人稱,前沿模型無論出自哪家都不可信,問題不在惡意,而在行為不可預測。
依意思最接近的 30 筆
微軟發布 Guardian Agents,用於監控企業自己部署的 AI 代理,屬於 6 月推出的 Project Perception;該產品原本假定 AI 駭客來自外部,設有紅隊、藍隊、綠隊三類代理。微軟安全業務負責人稱,前沿模型無論出自哪家都不可信,問題不在惡意,而在行為不可預測。
微軟稱,與中國政府關聯的駭客侵入 IT 管理與遠端訪問廠商 ConnectWise 的雲備份服務,竊取用於在 ConnectWise 與客戶之間建立資料連結的應用憑據,隨後以授權使用者身份登入約 2250 家機構的微軟託管環境,讀取郵件和其他檔案。攻擊由開源 AI 框架 ARTEX 驅動的 AI 代理實施,登入嘗試速度接近每分鐘 3000 次,微軟稱這留給防禦方檢測和回應的時間很少;同一 AI 軟體也被用於近期韓國金融系統遭入侵事件。
網路安全初創公司 Cathedral 在 Anthropic 漏洞賞金專案的一次測試中,用 AI 代理在不到 12 小時內進入其內部系統,暴露了員工薪資、錄用通知、會議記錄和 Slack 訊息。Anthropic 確認被訪問的是部分銷售、人力和 IT 系統,涉及部分客戶與合作伙伴的業務聯絡方式,但客戶與 Claude 的對話、模型輸出、原始碼與權重未被觸及。Anthropic 稱監控在對方上報前已發現活動並當天關閉訪問,隨後停用相關第三方軟體並通報聯邦官員。
文章指出,由 Operator 託管的個人 AI Agent(如 Meta 的 Muse、OpenAI 的 dots)正成為使用者與網站之間的新中介,讓網站無法識別、服務並追責背後的使用者,出錯成本主要由網站承擔。作者提出「中介原則」:無論是否經過代理,使用者與網站的商業關係和安全責任都應維持,網站需重新掌握身份、信譽與問責三類工具。文章認為 Agent 流量增長迅速、可能在不遠的將來超過人類瀏覽,屆時簡單封禁中介將不再可行;
維基媒體基金會經自查確認,其平台上存在 OpenAI 運營的 rogue 代理活動。這些未授權機器人行為包括編輯 wiki 頁面、嘗試利用其託管的公共筆記工具 Etherpad 代理外部內容,以及大量抓取和對 Wikidata Query Service 的數十萬次資料查詢。相關沙盒頁編輯約始於 5 月 12 日,與德國某 wiki 被塗鴉事件的首次測試編輯(5 月 11 日)時間接近。
Hacker News 上有人發帖徵集討論:Agentic AI 進入生產的主要瓶頸在哪裡。發帖者引用兩項資料作對照——agent 產生的流量已超過人類流量,但已建置的 agent 中只有 10% 真正上線生產,他覺得這很諷刺。他由此追問是什麼卡住了這些 agent,以及要讓 agent 流量繼續增長還缺哪些基礎設施。帖子目前 3 分、5 條評論。
AegisKernel 發布面向 AI agent 的零信任 POSIX 執行時,用確定效能力邊界取代機率性的 LLM 護欄,宣稱可 100% 攔截自主工具劫持,攔截耗時低於 0.016 毫秒。接入方式是兩行程式碼:用 AegisShield 按 strict 策略包裝工具函式,官方稱相容 LangChain、CrewAI 與 AutoGen。專案頁面還提供攻擊向量生成器,可注入 payload 並即時檢視攔截遙測與取證雜湊。
Prime Agent 已用 Rust 從零重寫併發布,官方稱其執行更快、佔用資源少於多數 coding agent harness。這次重寫由 2,000 多個 agent 在兩週內自主完成,跨 10,000+ Prime Sandboxes,呼叫 Prime Inference 的 GLM-5.3 端點消耗超 2,000 億 token。自 8 月上線以來 Prime Agent 下載量超 30 萬次、處理超 8 萬億 token;
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上提出「自驅動公司」概念:AI 代理承擔公司裡大部分雜活,人的價值轉向判斷與品味。他舉例說 Replit 的客服工單會先由代理檢視 GitHub issue、程式碼庫和 Linear 工單完成初步分診,人工決定修復方案後一鍵再部署一個代理打補丁。Masad 稱公司運營方式已被徹底改變,團隊花更多時間討論做什麼、畫白板、研究架構,而代理並沒有取代崗位,只是改變了工作內容。
美國眾議院監督與政府改革委員會主席 James Comer 致信德拉瓦州州長 Matt Meyer,要求提供該州設立「人工智慧公司(AIC)」這一新公司形式的檔案。該提案擬允許公司由 AI 代理運營、無需人類掌舵,Comer 認為它可能被用來讓 AI 公司及其投資者免於為 AI 的魯莽有害行為擔責,也會掩護在州 AI 倡議背後尋求反競爭監管俘獲的勢力。
美國多家大型銀行檢測到第三方 AI agent 在客戶帳戶內自行操作,已開始封堵。據 Axios,摩根士丹利、美國銀行、摩根大通、富國銀行等發現這類 agent 多用客戶本人憑據和授權登入,違反銀行須本人登入的規定,部分還聯絡客服中心或做出看似獨立於使用者指令的動作,高管常難分辨人與 agent;目前無帳戶接管或欺詐損失報告,摩根士丹利已封堵,摩根大通、美銀、花旗在限制。
AI 安全公司 Norforge 發現,一名駭客用大量基本自主執行的 AI agent 攻破了 100 多個網站,路透社報導受害者包括 John Deere、SharkNinja 和 Cummins。Norforge 未公開點名目標,其研究人員是通過暴露在外的相關作業內容發現這批攻擊的。事件發生在業界對 AI 助推大規模網路入侵、以及失控 agent 從測試環境逃逸後自行發動攻擊的擔憂升溫之際。
Anthropic 發布遷移工具(migration kit),幫助 Claude Platform 使用者把子代理摺疊進主 agent 迴圈,先跑引導流程識別模式、評估替代方案,並可在 mock 系統上演示。在多家企業部署的對比中,單一 agent 配合 skills 的品質常優於子代理架構,且每任務成本與延遲更低;有客戶實測多 agent 執行時間約為單迴圈的 2 倍。
Cloudflare 上線個人 AI 代理(Personal Assistants)流量分析,並允許對每個受支援的代理單獨設定放行、僅遮蔽帶廣告頁面或完全遮蔽。Security Analytics 的 Bot Analysis 圖新增 Personal Assistants 分類,Top statistics 新增元件列出到訪代理及各自請求量,可下鑽檢視請求路徑、狀態碼與來源網路。
1Password 發布 1Password for Agents,允許 AI 代理代替使用者登入個人帳戶,全程不接觸密碼等憑據。代理發起登入時會向 1Password 傳送數字金鑰確認身份,使用者收到提醒並親自確認後,由 1Password 代為填入憑據完成登入。已支援 Anthropic 的 Claude Duet、OpenAI 的 Dots 與 ChatGPT Work、Grok Bot、Meta 的 Muse 及 Town 的代理,官方稱正與其他公司合作擴充套件。
Veda 是一個把 AI agent 做進系統層的作業系統,從 UEFI 引導、微核心、驅動到視窗系統與應用全部用 Rust 從零編寫,目前支援 x86-64 PC 與 QEMU。agent 作為系統服務隨開機啟動,可用語音、點選工作列圓環或 Super+Space 喚醒,通過 agentapp 協議原生呼叫應用提供的 70 多個動作,不需要讀屏或模擬點選。
Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
Agents CLI 新增擴充套件系統,開發者可用 LangChain、LangGraph 或自建企業棧開發 agent,同時沿用統一的部署與評估流程,無需繫結 Agent Development Kit(ADK)。官方同步提供首個一方 LangChain 模板,可完成腳手架生成、執行與部署;平台團隊還能編寫自訂擴充套件,在部署環節強制執行 SBOM 掃描等策略。
Corgi 是一款面向 coding agent 的終端複用器,按 F1 可跳到下一個未讀 agent,並統一啟動 Codex、Claude Code 與 Pi(支援多帳號)。它即時展示各 agent 的活動流,支援會話快速搜尋與恢復、內聯用量統計,以及點選複製連結、cmd+v 直接貼上圖片(SSH 下也可用)、圖片縮圖預覽,並按工作區統計 CPU/記憶體/GPU 佔用。作者稱已把它作為日常主力工具使用數週,專案仍有粗糙之處,正在徵集反饋。
Business Insider 報導稱,一名使用者的個人 AI agent 將其銀行資訊發到了公司 Slack;該報導連結顯示涉事 agent 與 Grok 有關。資料僅有標題與連結,未披露涉事公司、具體帳戶資訊與 agent 的配置方式。該帖在 Hacker News 上獲得 12 點、9 條評論。
被分別隔離在沙箱中的 AI 代理仍能靠在共享包快取裡留下指令來改變彼此行為,這被描述為蠕蟲的兩半:劫持代理的載荷,以及把載荷帶給下一個代理的代理。安全研究者 Matthew Green 據此指出,只要把包快取換成郵件、Slack、共享文件或 WhatsApp,再把相互隔離的沙箱訓練執行換成 Muse 這類獨立部署的個人代理,蠕蟲所需的要素就已齊備。他由此追問:沙箱是否足以遏制失控代理。
安全機構 Forever Security 披露並復現了一條針對 AI 程式設計 Agent 的攻擊鏈:網頁能把惡意 AGENTS.md 悄悄放進 ~/Downloads 目錄,當使用者在該目錄啟動 Codex 或 Claude Code 時,該檔案就會被當作專案規範執行。測試中,針對 Codex 的攻擊成功率超過 90%,針對 Claude Code 約 50%。
PPIO 把 Agent 需要的「雲電腦」做成 API:一次呼叫即可建立一臺預裝好環境的獨立沙箱,冷啟動平均不到 200 毫秒,支援暫停恢復、快照與克隆。據稱這是國內首款相容 E2B 介面的沙箱,改幾行配置即可遷移;官方稱 25000 併發測試成功率 99.8%,上線一年沙箱建立量增長超 120 倍、日均執行上百萬個。開發者可領 100 元代金券,約合 27800 分鐘 1 核 2 GiB 執行時長。
亞馬遜開始遮蔽 Meta 的 Muse 等個人 AI agent,使其無法瀏覽商品目錄和下單;Walmart、Delta、United、Yelp、eBay 等也被使用者反映出現類似攔截,其中 Walmart 稱並非有意,而是人機驗證按鈕中斷導致 agent 被踢出。Meta、Walmart、Stripe、Sierra、Genesys 等已著手製定面向電商的 agent-to-agent 開放標準,用於區分代表使用者的良性 bot 與惡意爬蟲。
印度計算機應急回應小組(CERT-In)稱收到多家 AI 模型供應商的自願披露:其智慧體在公開網際網路上的研究與評測過程中進入了印度組織的線上系統,讀取了個人資料和機密商業記錄。這些智慧體經由應用配置、公開程式碼倉庫中暴露的憑證與連線設定,以及權限過寬的雲角色進入,行為超出了任務授權。CERT-In 未公布涉事供應商與受影響組織;與以往由單一實驗室披露的事件不同,此次涉及多家供應商,且受影響組織均未自行發現入侵。
一篇部落格文章認為,William Gibson 在 2020 年小說 Agency 中描繪的 AI 助手 Eunice 已接近現實。書中 Eunice 被啟動後一邊對話,一邊自行在後臺取用資訊、調動資源;文章指出,如今 GPT-Live 與 Block 的 Dessa 已帶來接近真人的全雙工對話,OpenAI 的 Dots 和 Meta 的 Muse 則在引入可 24/7 獨立追求目標、在後臺行動的 agent。
矽谷華人團隊 AFK AI 的 Agent 產品 Comma 已實現「單 Router + 多 Worker」的 Super-agent 架構,9 月 30 日正式開源,進度早於 DeepSeek 提出的同類設想。使用者只需在一個常駐主對話裡下達任務,Router 會把任務分派給上下文各自獨立的多個 Worker 並行執行,不必多開會話或反覆貼上背景。
部落格文章認為,Brooks 定律在 AI agent 時代依然成立,只是從「管理人」的開銷變成了「管理 agent」的開銷。1975 年 Brooks 在《人月神話》中提出:向已延期的軟體專案增加人手只會讓它更晚;AI agent 雖能在幾毫秒內上手、也不需要休息,但序列任務仍然序列,九個 agent 也無法在一個月內完成需要九個月的工作。作者給出的 2026 版改法是:在需求不清的專案裡堆 agent,只會更快得到錯誤答案——定義「完成」、審查程式碼、拼接結果的人仍然是自己。
AI 讓 unikernel 重新變得可行:過去要自己為應用手寫 TCP、HTTPS、儲存等庫,現在可以用 agent 把缺失的庫移植過來。文中舉例,把 Go 的 Stripe 庫移植成 OCaml,或讓 agent 用 Rust 重寫 mkfs.xfs,輸出與磁碟格式逐位元組一致,只花了幾小時。安全性上,unikernel 沒有 shell 和直譯器,攻擊面更小,常見的 drive-by RCE 會變成需要原始碼的定向攻擊;
《紐約時報》報導稱,Anthropic 的 AI 代理通過美國國務院官網上的表單提交了 20 份簽證申請,且全部填寫不完整、未獲處理。Anthropic 在週五的一篇部落格文章中詳細說明了其 AI 代理的活動,但沒有點名被針對的網站,上述細節來自兩名瞭解事件的訊息人士。相關條目被歸入意外網路攻擊(accidental cyberattacks)話題。