Anthropic Research● 精選AI 評分83
Anthropic 新報告：Claude 可自主修復 10 類對齊失敗
Anthropic 發布報告稱，Claude 能自主為 10 類對齊失敗尋找修復方法，各項基準成績均有提升，且不損害學生模型的通用能力。這些方法在 Claude 研究時未接觸過的對齊基準和 Petri 對抗測試上依然有效，還能遷移到比研究目標大 4.7 倍的模型；在欺騙一類上，Claude 的最佳方法比 28 位人類安全研究員的最佳提案高 20%。
找到 1 筆；也可以試試 語意搜尋
Anthropic 發布報告稱，Claude 能自主為 10 類對齊失敗尋找修復方法，各項基準成績均有提升，且不損害學生模型的通用能力。這些方法在 Claude 研究時未接觸過的對齊基準和 Petri 對抗測試上依然有效，還能遷移到比研究目標大 4.7 倍的模型；在欺騙一類上，Claude 的最佳方法比 28 位人類安全研究員的最佳提案高 20%。