Anthropic News● 精選10/12 00:00AI 評分83 Anthropic 強化反蒸餾防禦,稱蒸餾資料獲取量降約九成 Anthropic 公布新的反蒸餾措施,早期證據顯示蒸餾者獲取的資料量已減少約 90% 至 99%。核心做法是讓 Claude 的推理過程更難被提取:把推理摘要化後,用完整推理微調的模型在 SWE-bench Verified 上得 80.4%,僅用摘要則降到 71.8%。攻擊者隨後轉向主動誘導模型逐字輸出隱藏推理,並架設控制數十萬虛假帳號的代理網路。Anthropic 稱為此拒絕了可觀收入和數萬億 token 的付費流量,部分正常使用者需更新整合。 政策與安全研究模型蒸餾安全防護虛假帳號國家安全GLM-5.3 閱讀原文
Hacker News front page10/8 01:33AI 評分52 美國男子用機器人刷 AI 歌曲播放量被判 18 個月 美國北卡羅萊納州 54 歲的 Michael Smith 因用機器人刷 AI 生成歌曲的播放量騙取版稅,被判處 18 個月監禁,並須上繳 800 萬美元版稅。他自 2017 年起建立多達 1 萬個虛假帳號,為自己擁有的數十萬首 AI 歌曲刷出數十億次播放,並把刷量分散到數千首歌以躲避異常檢測。司法部舉例稱,2023 年 4 月他的機器人帳號經家庭套餐刷了 8090 萬次,而同月 Taylor Swift 全曲庫在 YouTube Music 家庭套餐播放僅 930 萬次。 政策與安全AI 生成音樂流媒體欺詐版稅欺詐刑事判決bot-farming 2 個來源 · 2 則報導閱讀原文
Anthropic News● 精選10/8 00:00AI 評分67 Anthropic 更新使用政策,合併欺騙性活動條款並放開競選定向 Anthropic 發布 2026 版使用政策,把分散的欺騙性活動規則合併為新條款,並放開個性化投票與競選定向,新政 11 月 12 日生效。新設的「不得從事欺騙性宣傳或人造活動」一節,統一禁止虛假帳號、偽造新聞站點等行為;選舉條款更名為「不得破壞民主程序」,依靠欺騙或濫用選民資料的定向仍被禁止。武器禁令明確覆蓋制導與控制軟體、武裝無人機;監控條款禁止未經同意的追蹤。新增自主硬體要求:須有合格操作者能觀察並隨時停機,Claude 斷開時裝置需保持安全狀態。 政策與安全使用政策AI 安全選舉干預監控高風險用例 4 個來源 · 6 則報導閱讀原文