Anthropic 開源 FlashProve,加密驗證模型身份
Anthropic 公布開源系統 FlashProve,用密碼學證明某段輸出確實出自指定模型,防止廠商暗中換成更便宜或更強的模型。它要求 AI 實驗室為每個模型發布「指紋」,之後可將指紋與具體輸出匹配並加密驗證;指紋不暴露模型權重,因此閉源商用模型同樣適用,且系統足夠輕量,可在本地裝置完成驗證。研究團隊已在 GitHub 以開源許可發布技術規範與部分程式碼,研究仍在進行,暫沒有在 Anthropic 或其他實驗室部署的計劃。
Anthropic 於 11 月 2 日發布研究部落格,公布基於 zkSNARK 的可驗證推理開源原型 FlashProve,11 月 3 日通過官方 X 帳號宣布開原始碼,TechCrunch 同日跟進報導。該系統要求模型提供方為每個模型發布「指紋」,再證明某條回覆確由該模型生成,同時不洩露模型權重,因此閉源商用模型同樣適用;據 TechCrunch 報導,它足夠輕量,可在本地裝置完成驗證。效能上,Anthropic 稱在 4-bit 量化的 400B 混合專家模型 Llama 4 Maverick 上,單張 H100 生成證明約 110 token/秒,每 1,024 token 請求的證明約 19MB,相當於用 vLLM 直接執行該模型所耗 GPU 時間的 70–95 倍,但比此前的開源系統快幾個數量級。研究團佇列舉的用途包括:防止廠商暗中換成更便宜或更強的模型、核實第三方關於某任務由前沿模型完成的說法、讓安全評估者確認被測模型與對外服務的模型一致。據 TechCrunch 報導,技術規範與部分程式碼已在 GitHub 以開源許可發布,研究仍在進行,暫沒有在 Anthropic 或其他實驗室部署的計劃。對依賴閉源 API 的開發者和安全評估者來說,模型身份核驗多了一條可行路徑,但目前還沒有可直接使用的部署。合作方包括 EPFL、MIT、StarkWare、Succinct 等機構的研究者。
AI 根據 3 則報導生成 · 更新
沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。
Anthropic 公布開源系統 FlashProve,用密碼學證明某段輸出確實出自指定模型,防止廠商暗中換成更便宜或更強的模型。它要求 AI 實驗室為每個模型發布「指紋」,之後可將指紋與具體輸出匹配並加密驗證;指紋不暴露模型權重,因此閉源商用模型同樣適用,且系統足夠輕量,可在本地裝置完成驗證。研究團隊已在 GitHub 以開源許可發布技術規範與部分程式碼,研究仍在進行,暫沒有在 Anthropic 或其他實驗室部署的計劃。
Anthropic 公布可驗證推理研究 FlashProve,讓開發者能夠驗證某條回覆是否確實來自指定模型,且效率顯著高於此前的開源方法。該證明可用於提高攻擊者劫持對話的難度,也能讓安全評估者確認被測模型與對外服務所用模型是否同一個。FlashProve 程式碼已開源,完整論文另附連結。
Anthropic 公開 FlashProve,一套用 zkSNARK 實現可驗證推理的開源原型:模型提供方可以證明某次回覆確實由指定模型生成,同時不洩露模型權重。在 4-bit 量化的 400B 混合專家模型 Llama 4 Maverick 上,單張 H100 生成證明約 110 token/秒,每 1,024 token 請求的證明約 19MB。這相當於 vLLM 直接執行該模型的 GPU 時間的 70–95 倍,但比此前的開源系統快幾個數量級。
過去 48 小時,有 2 個獨立來源報導,最近 6 小時新增 2 個。熱度 1.8,熱門榜第 2 名。
熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。
同一事件的報導集中在這裡,新的進展會繼續補充。