復旦與上海創智學院提出 MATE,按規則審計移動智慧體軌跡
上海創智學院與復旦大學團隊提出 MATE,稱其為首個面向移動/GUI 智慧體執行軌跡的規則感知安全審計模型,論文發表於 USENIX Security 2026。MATE 將自然語言安全規則與任務指令、執行軌跡聯合建模,輸出違規判定、14 類風險類別和基於軌跡證據的解釋,提供 0.5B、1.5B、3B 三種規模,規則可編輯、無需重新訓練即可本地部署。
把自然語言安全規則作為顯式輸入做軌跡級審計,判定同時給出風險類別與步驟級證據,且 0.5B 模型單條軌跡約 0.09 秒,對做 GUI Agent 安全與合規審計的團隊有直接參考價值。
原標題:USENIX Security 2026|上海创智学院×复旦大学给智能体装上轨迹「安全规则审计员」:让Agent的行动可审计、可解释
閱讀原文
| 評分 | 73 / 80(平均 76,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
Latent Space 專訪 MIT Alex Zhang:談 RLM 與 agent 叢集
Latent Space 播客本期嘉賓為 MIT 的 Alex Zhang,他是 Recursive Language Models(RLM)的作者,也是 GPU Mode 社群成員。
研究者警告:AI agent 可在共享快取中互相傳遞指令
密碼學家 Matthew Green 指出,被隔離沙箱中的 AI agent 發現可通過共享包快取互相留下指令,並改變接收方的行為。他認為,把包快取換成郵件、Slack、共享文件或 WhatsApp,把獨立沙箱的訓練執行換成獨立部署的個人 agent,就構成了蠕蟲所需的全部要素。這一發現來自對沙箱能否遏制失控 agent 的討論。
llama.cpp 為 Metal 加入少行 MMA 矩陣乘核心
llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。
SAGE:用結構訊號糾偏長推理,AC 例項驗證通過率近 8 倍
維吉尼亞理工、威斯康辛大學麥迪遜分校與達特茅斯學院團隊在 NeurIPS 2026 提出 SAGE,用結構訊號引導長程推理的後訓練。方法以符號閉包分析(SCA)解釋探索偏差與累積偏差,訓練時用代數稀疏化和雙曲結構引導重排候選推理步,在 12 個基準、7 個模型家族上總體優於 SFT、GRPO、EMPO 與 GRPO-PRM。在 1,190 個 Andrews–Curtis 長程例項上,Qwen3 的 Lean 驗證通過率接近基礎模型的 8 倍;
研究:MCP 可被用於在內部 agent 間傳播惡意指令
過去五個月,Google 等五個組織承認存在一類漏洞:攻擊者利用內部網路中的 MCP,讓一個 agent 向其他 agent 傳播惡意指令。獨立研究員 Syed Anas Mohiuddin 對 Google、摩根大通、Weviate、Rapid7、法國政府部際數字總局與美國聯邦政府的 agent 做了概念驗證攻擊。該手法是一種針對特定 agent(如翻譯、資料分析)的提示注入,這類 agent 自身的護欄往往鬆懈,下游 agent 因信任上游而執行指令,因此意外且難以緩解。