Anthropic Research● 精選AI 評分83
Anthropic 新報告：Claude 可自主修復 10 類對齊失敗
Anthropic 發布報告稱，Claude 能自主為 10 類對齊失敗尋找修復方法，各項基準成績均有提升，且不損害學生模型的通用能力。這些方法在 Claude 研究時未接觸過的對齊基準和 Petri 對抗測試上依然有效，還能遷移到比研究目標大 4.7 倍的模型；在欺騙一類上，Claude 的最佳方法比 28 位人類安全研究員的最佳提案高 20%。
搜尋
找到 3 筆；也可以試試 語意搜尋
量子位● 精選AI 評分70
OpenAI 安全透明度負責人離職，三名安全員工被開
OpenAI 安全透明度職能負責人 David Robinson 已離職，OpenAI 未公布繼任者，他本人也未公開說明原因。該職能負責撰寫每次重要模型發布時的 system card，並主導起草《Preparedness Framework 2.0》。此前 OpenAI 還以向外部 AI 安全機構分享敏感資訊為由，開除了 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全與對齊研究方向員工。
機器之心● 精選AI 評分83
被 OpenAI 解僱的三名安全研究員發公開信，否認洩密
上週被 OpenAI 解僱的三名安全與對齊研究員 Tomek Korbak、Jasmine Wang、Mikita Balesni 聯名發表致公司安全與安保委員會等機構的公開信，稱解僱與他們堅持 AI 安全直接相關，並否認是 The Information 相關報導的洩密者。Jasmine 稱唯一理由是她曾獲授權訪問一位高管信箱、IT 未完成權限撤銷；Tomek 稱數月來一直提出思維鏈可監測性下降的擔憂，並擔心 OpenAI 借解僱縮減與外部審計機構 METR 的合作。