AISpot

Anthropic 強化反蒸餾防禦,稱蒸餾資料獲取量降約九成

Anthropic News官方公告政策與安全研究

Anthropic 公布新的反蒸餾措施,早期證據顯示蒸餾者獲取的資料量已減少約 90% 至 99%。核心做法是讓 Claude 的推理過程更難被提取:把推理摘要化後,用完整推理微調的模型在 SWE-bench Verified 上得 80.4%,僅用摘要則降到 71.8%。攻擊者隨後轉向主動誘導模型逐字輸出隱藏推理,並架設控制數十萬虛假帳號的代理網路。Anthropic 稱為此拒絕了可觀收入和數萬億 token 的付費流量,部分正常使用者需更新整合。

官方少見的量化披露:反蒸餾帶來 90%–99% 的資料削減,也帶來收入與相容性代價,對通過 API 整合 Claude 的開發者最有參考價值。

原標題:Strengthening our defenses against distillation attacks
閱讀原文

評分82 / 84(平均 83,門檻 60)
狀態精選(舊聞,已歸檔)