AISpot

論文提出 ProvenanceGuard,為 MCP Agent 核查斷言來源歸屬

Hugging Face blog9/29 14:07官方公告研究開發工具政策與安全

MultiverseComputingCAI 發表論文提出 ProvenanceGuard:一個接在黑盒 MCP agent 之後的後生成驗證層,專門抓事實為真但歸屬錯誤的跨來源混淆,這類斷言可能被 RAGAS、MiniCheck 等只看合併證據的檢查器放過。它保留 MCP trace 中的 source ID,依次做斷言拆解、來源路由、支援度校驗與歸屬比對,輸出逐條來源判定和答案級的放行或攔截。

你日常用 Claude Code、Codex、OpenCode 這類會呼叫多個 MCP 工具的 agent,這套保留 source ID 的校驗流程和 MiniLM+DeBERTa 的離線配置,可以照搬到自建 agent 上,避免答案把工具輸出張冠李戴。

原標題:Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
閱讀原文

評分66 / 67(平均 66,門檻 65)
狀態精選(舊聞,已歸檔)