CWE-bench v2 公開 100 個安全任務,Gemini 4 Argon 以 67.8% 領先
Collinear AI 發布 CWE-bench v2,公開 100 個針對真實開源倉庫的漏洞發現與修復任務,覆蓋 91 類 CWE,評分全部程式化、可復現,每道題另經人工複核並驗證能擋住對已知上游補丁的照搬。11 個受測模型中,Gemini 4 Argon 以 67.8% pass@1、81.0% pass@4 居首,Claude Opus 5.5 以 67.3% 緊隨;95 個任務至少被一個模型解出,但領先者仍有約 19% 的任務每次都失敗。
公開集擴到 100 個任務、覆蓋 91 類 CWE,並列出每次 rollout 的成本與通過率對比,任務環境還能直接用於 RL 訓練;對做安全 agent 評測與訓練的人最有用。
原標題:CWE-bench v2: More coverage, quality, and transparency
閱讀原文
| 評分 | 70 / 78(平均 74,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
Google 發布 Gemini 4 Carbon,智慧指數登頂、網路安全全鏈路第一
Google 發布 Gemini 4 Carbon,在 Artificial Analysis 智慧指數 v5.0 以 59 分登頂,超過 Claude Opus 5.5 的 58 分和 GPT-6 Astra 的 57 分,距上代 Argon 發布僅兩週。它在網路安全三項基準均居首:漏洞發現 SEC-bench Pro 88.2%、漏洞驗證 ExploitGym 54.8%、漏洞修復 CWE-bench 71.0%。
Gemini 4 Argon 開始廣泛推送,安全報告同步公開
Google DeepMind 宣布 Gemini 4 Argon 開始廣泛推送,同時擴大 Fairwind 計劃的受信任網路防禦者範圍,併發布完整的安全與安保報告。該模型在 12 項端到端模擬網路攻擊場景中全部通過,上一代僅通過 5 項;對抗測試中的違規請求減少近一倍。防護分三層:輸入篩查、讀取模型內部神經訊號的啟用探針,以及多步推理中的持續監控,必要時可中斷 agent;生物越獄紅隊僅能解鎖不到 1% 的生物子任務。
Google 開源 CLASHarness:15 個主流模型衝突任務通過率不足 30%
Google 聯合多所高校開源 CLASHarness,這是首個針對多 Agent 衝突場景的 Computer Use 基準:在 600 個任務、20 步限制下,15 個前沿模型的端到端通過率無一突破 30%,最高為 Claude Opus 5 的 25.2%,GPT-5.6 Sol 24.5%,放開步數後 GPT-6 Astra 達 28.7%,開源 Kimi K3 以 21.8% 排第五。資料集覆蓋 20 個真實領域、7,970 張 4K 視覺證據圖、3,284 項檢查點。
Claude 掃描 25 個開源專案,發現 493 個攻擊面問題
Anthropic 公布用 Claude 自動縮減程式碼攻擊面的初步研究:掃描 25 個開源專案、逾 500 萬行 C、C++、Java、PHP、Python 程式碼,發現 493 個問題。Claude 梳理出 1.7 萬個配置項,其中 3842 個與安全控制相關,按預設配置、配置組合、早期可達性三類排查。11 個需認證專案均存在意外可達程式碼:93 處認證前的暴露面、37 處認證前執行或記錄狀態的位置、61 組靜默削弱認證前控制的配置組合。