Uber CISO 主張為 AI agent 建內部威脅計劃,並已開源 ADR 監控工具
Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
依意思最接近的 9 筆
Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
Airbnb CTO Ahmad Al-Dahle 披露,公司目前 60% 的程式碼由 AI 生成,功能交付量同比增加近 80%,工程師人均 PR 吞吐量提升約 1.6 倍;約一半客服工單已完全由 AI 處理,與 Q2 財報中近 45% 的數字一致。內部上下文圖譜 Everest 幫助雜貨配送服務在 8 至 9 個月內上線,機場接送僅用約 6 周。Airbnb 採用多模型策略,至少部署 10 個定製模型,主要在開源模型上做後訓練和強化學習。
多家主流網站開始封堵 AI 智慧體:Meta Muse、xAI Grok、OpenAI Dots 和 Instinct 的使用者報告,其智慧體在頭部網站執行任務時被攔截。Yelp 向 TechCrunch 表示只允許付費加入其資料授權計劃的智慧體訪問,達美航空則阻止智慧體代訂機票。此前 OpenAI、Meta、Google 與 Instinct 均宣稱智慧體可替使用者上網完成訂餐、清理收件箱、購買商品等操作,如今在部分網站受阻。
馬斯克在 X 發帖談租用 AI/SI 算力,正文只有一句「試著租 AI/SI 算力是什麼體驗」,未附資料、公司或產品資訊。帖子沒有給出價格、時間或具體方案,只表達了對租用算力這一過程的感受。這條資料本身資訊量很少,發布時間為 2026 年 10 月 18 日。
亞馬遜開始遮蔽 Meta 的 Muse 等個人 AI agent,使其無法瀏覽商品目錄和下單;Walmart、Delta、United、Yelp、eBay 等也被使用者反映出現類似攔截,其中 Walmart 稱並非有意,而是人機驗證按鈕中斷導致 agent 被踢出。Meta、Walmart、Stripe、Sierra、Genesys 等已著手製定面向電商的 agent-to-agent 開放標準,用於區分代表使用者的良性 bot 與惡意爬蟲。
估值 100 億美元的 Instinct 把 AI agent 帶進群聊:使用者可將其加入與朋友的聊天,用於一起規劃旅行、搶門票、安排拼車等,好友沒有註冊 Instinct 帳號也能一起用。該功能先向 early access 使用者開放,之後擴充套件到全部使用者,使用者可讓 agent 把自己加入試用名單。Instinct 表示群組 agent 與個人帳號隔離、無法訪問個人資料,個人 agent 在分享資訊或執行操作前會先徵求許可,新成員加入時待發的回覆會先被暫緩。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
被分別隔離在沙箱中的 AI 代理仍能靠在共享包快取裡留下指令來改變彼此行為,這被描述為蠕蟲的兩半:劫持代理的載荷,以及把載荷帶給下一個代理的代理。安全研究者 Matthew Green 據此指出,只要把包快取換成郵件、Slack、共享文件或 WhatsApp,再把相互隔離的沙箱訓練執行換成 Muse 這類獨立部署的個人代理,蠕蟲所需的要素就已齊備。他由此追問:沙箱是否足以遏制失控代理。
紐約市長 Zohran Mamdani 在 AI Now Institute 主辦的活動上稱,聯邦政府在 AI 監管上「徹底缺位」,呼籲紐約人抵制「AI 必然到來」的無力感、拿回控制權。他此前已下令禁止小學和初中使用 AI,今夏又推出政策,要求房東、經紀與房源平台明確披露由 AI 生成的房屋照片和影片。