Anthropic 於 2026 年 10 月 8 日發布 2026 版使用政策,11 月 12 日生效,稱多數改動是把既有規則寫得更明確,並針對過去一年觀察到的影響行動、武器研發與監控濫用補充範例,還澄清健康、金融等高風險用途要求,新增 Claude 自主採取物理行動的控制條款。新版把原本分散在選舉、欺詐、隱私等章節… 看完整事件
Anthropic 更新使用政策,禁止對 Claude 的持續虐待行為
Anthropic 一年多來首次更新使用政策,其中一項重要變化是禁止對 Claude 進行「持續且不必要的虐待或殘忍行為」。新政策還覆蓋選舉干預、武器研發、監控以及健康與金融用途等高風險濫用場景。終止對話仍是主要的執行手段,這一機制源自 2025 年 8 月公司允許 Claude 結束與持續有害或辱罵使用者對話的「模型福祉」研究。
官方首次把針對模型的虐待行為寫入使用政策,並確認終止對話仍為主要執行手段,對關注 AI 使用政策、模型福祉與平台治理的讀者有參考價值。
原標題:Anthropic bans ‘abusive or cruel behavior’ towards Claude
閱讀原文
| 評分 | 78 / 78(平均 78,門檻 76) |
|---|---|
| 狀態 | 精選 |
相關報導
紐約時報報導 Anthropic 為 Claude 模型注入道德觀
《紐約時報》刊文披露 Anthropic 在 Claude 模型中植入道德觀念的內部工作。文章發布後登上 Hacker News,獲得 43 分、52 條評論。報導聚焦 Anthropic 如何讓 AI 模型遵循其設定的道德準則,原文需訪問紐約時報網站閱讀。
Anthropic 擴大初創扶持:送一年 Claude Team 與 1000 美元額度
Anthropic 於 10 月 6 日 SF Tech Week 活動上宣布擴大 Claude for Startups 計劃:符合條件的企業可免費使用一年 Claude Team 付費方案,含最多 5 個高階席位,並獲 1000 美元 API 額度。此外還能接入 Claude Marketplace 建置外掛,並預約 Anthropic Applied AI 團隊的線上辦公時間。申請門檻為成立五年內的公司,或近兩年獲得過融資的公司,通過專案頁面申請即可。
Anthropic 三年投 1.5 億美元,向 Genesis Mission 提供 Claude
Anthropic 宣布三年內投入 1.5 億美元支援美國聯邦 Genesis Mission,讓 NASA、NIH、NSF 等 15 個以上參與機構用上 Claude。這筆投入將為數百個研究專案提供 Claude、Claude Code 與 API 額度,重點配合聚變能源、量子計算等科學優先方向,並提供培訓、上手指導與技術支援。
巴克萊擴大與 Anthropic 合作,2027 年 Claude Code 覆蓋多數工程師
巴克萊銀行擴大與 Anthropic 的戰略合作,在全行部署 Claude 以加速軟體開發、改造遺留系統並提升運營效率。巴克萊預計到 2026 年底 Claude Code 覆蓋 50% 開發者,2027 年覆蓋多數軟體工程師。已上線的 Colleague Knowledge Assistant 基於 Claude 的 RAG 架構,超 1.6 萬名員工使用、處理逾 100 萬次搜尋;全球市場業務每天用 Claude 處理約 12 萬封郵件。
Claude 合規 API 聊天端點覆蓋統一 Claude 體驗
Anthropic 的 Compliance API 聊天端點現在也會返回統一 Claude 體驗中的對話,該能力面向 Claude Enterprise 組織以 beta 形式提供,沿用現有的 Compliance Access Key 即可呼叫。官方文件《Retrieve and delete chats, files, and projects》說明了對應的檢索與刪除方式。