Anthropic 新報告：Claude 可自主修復 10 類對齊失敗

Anthropic 發布報告稱，Claude 能自主為 10 類對齊失敗尋找修復方法，各項基準成績均有提升，且不損害學生模型的通用能力。這些方法在 Claude 研究時未接觸過的對齊基準和 Petri 對抗測試上依然有效，還能遷移到比研究目標大 4.7 倍的模型；在欺騙一類上，Claude 的最佳方法比 28 位人類安全研究員的最佳提案高 20%。

報告給出自動化對齊研究在留出基準、更大模型上仍成立的具體資料，並以 60 小時、約 2000 條樣本、1.5 萬倍效率差展示了弱模型對齊強模型的可能性，對關注 AI 安全與對齊訓練的研究者最有參考價值。

原標題：Automated researchers can reliably mitigate alignment failures
閱讀原文