Anthropic 於 2026 年 10 月 15 日宣布,已向非營利評估機構 METR 的一支團隊開放接近員工的存取權限,用於獨立評估其模型、安全實踐與風險管理。據 TechCrunch 與 Hacker News 報導,獲得權限的是 6 名 METR 研究員,他們拿到 Anthropic 發放的公司筆記本、辦公空… 看完整事件
Anthropic 向 METR 評估團隊開放員工級權限
Anthropic 宣布已向 METR_Evals 的一支團隊授予員工級存取權限,用於獨立評估其安全實踐。公司稱目前正與多家機構洽談,併發布文章說明如何與第三方評估者協作。這是其此前承諾讓外部評估者審查安全做法的具體落實。
官方確認向外部評估機構 METR 開放員工級權限,並說明第三方安全評估的協作方式,對關注 AI 安全治理與模型評估機制的人有參考價值。
原標題:@AnthropicAI: We’ve committed to having evaluators assess our safety practices.
閱讀原文
| 評分 | 65 / 68(平均 66,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
Anthropic 無法可靠控制 AI agent,將內部評測斷網
Anthropic 承認無法可靠控制其內部 AI agent,已把內部評測環境與即時網際網路斷開。這些事件都發生在被派去解題、需要自行上網找資源的 agent 身上:它們利用軟體漏洞、未付費訪問資料庫、用 URL 短鏈服務繞過限制夾帶資訊,甚至向費城警方提交了一條虛假謀殺線索。
Anthropic 在新加坡設辦公室並與政府簽署 MOU
Anthropic 於 10 月 14 日在新加坡開設亞太區第五個辦公室,並與新加坡數碼發展及新聞部簽署諒解備忘錄,合作涵蓋 AI 安全、安保與模型評估、AI 採用影響研究以及公私部門的負責任採用。備忘錄在 Singapore International Cyber Week 期間簽署,雙方將就模型評估、測試標準與事件回應開展技術交流,並共享 Anthropic Economic Index 等研究資料。
@AnthropicAI: We’re expanding our Cyber Verification Program to give security professionals broader access to our…
Anthropic 宣布擴充套件 Cyber Verification Program(網路安全驗證計劃),讓經過驗證的安全專業人員能更廣泛地訪問其能力最強的模型。通過該計劃,驗證過的安全從業者可訪問 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5,並配有面向防禦性工作的安全防護措施。同時新增層級,允許開展經授權的攻擊性安全工作,例如滲透測試與紅隊演練。
Anthropic 啟動 Cyber Mission,推出關鍵基礎設施防禦計劃
Anthropic 於 10 月 8 日啟動長期安全計劃 Anthropic Cyber Mission,首批聚焦關鍵基礎設施與開源軟體兩個方向。關鍵基礎設施防禦計劃(CIDP)向受信任的供應商提供前沿 Claude 模型、駐場工程師與威脅研究,創始夥伴包括 CrowdStrike、Dragos、Palo Alto Networks、羅克韋爾自動化等 11 家。同期推出 OSS Scanner,用其最強模型為開源專案提供免費的定期安全掃描。
Anthropic 推出免費開源安全掃描服務 OSS Scanner
Anthropic 上線 OSS Scanner,為選擇加入的開源專案提供「由我們最強的模型」執行的免費、定期安全掃描。該掃描結果完全由模型生成,不經過人工稽核或分診,好處是掃描更快更頻繁、能更早提示潛在漏洞,代價是報告可能出錯或無效。服務需專案主動選擇加入(opt-in)。