依意思最接近的 14 筆
Anthropic 宣布推出關鍵基礎設施防禦計劃，幫助電網、水務等系統加強安全防護。該計劃將把前沿 Claude 模型、駐場工程師與最新研究成果帶給這些系統的運營方，以及為其提供安全、製造與技術服務的供應商。訊息由 Anthropic 官方帳號發布，未提及具體時間表或參與方式。
被 NeurIPS 2026 錄用的 Defense-as-Skill 論文提出把 Agent 執行時安全守衛做成一個可進化的 Skill：名為 SkillSonar 的守衛在敏感操作執行前按任務邊界給出 Allow、Replan、Require Confirm 三級裁決，經 9 輪 MCTS 迭代，惡意攻擊成功率從 0.300 降到 0.078。配套資料集 SCOPE-R 含 206 個惡意例項與 43 個良性任務，其中能力管控與隱私資料流兩族不參與訓練；
Anthropic 於 10 月 8 日啟動長期安全計劃 Anthropic Cyber Mission，首批聚焦關鍵基礎設施與開源軟體兩個方向。關鍵基礎設施防禦計劃（CIDP）向受信任的供應商提供前沿 Claude 模型、駐場工程師與威脅研究，創始夥伴包括 CrowdStrike、Dragos、Palo Alto Networks、羅克韋爾自動化等 11 家。同期推出 OSS Scanner，用其最強模型為開源專案提供免費的定期安全掃描。
微軟總裁 Brad Smith 在 BBC 播客上呼籲儘快制定全球 AI 安全規則，並稱英國比美國和歐盟更適合主導這件事。他希望落地的規則包括：系統被失控 AI agent 攻破須依法通報、AI 產品發布前需經外部評估者批准，以及可暫停或減速的 kill switch。他批評上月白宮與 OpenAI、Anthropic、Nvidia 等簽署的自願性檔案只能約束負責任的公司。
Axios 獨家報導稱，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對，多位業內人士認為這類事件會在未來 6 到 12 個月內發生，最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告，披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為，並宣布擴大內部評測斷網範圍、收緊抓取權限。
Sophos 用 OpenAI Daybreak 建置的 AI agent，將安全運營案件的平均回應時間從約 38 分鐘降至 89 秒，調查時間減少 96%。該方案基於 Sophos Fusion 與 MDR，agent 彙總客戶上下文、檢測結果與威脅情報，按計劃—執行—複核迴圈產出調查摘要與回應建議，52% 的 MDR 案件已由 AI 端到端處理。客戶仍可用 Notify、Collaborate、Authorise 三種模式決定 AI 的處置權限，破壞性操作交由人工判斷。
微軟 CEO Satya Nadella 在 X 髮長文表示，應假定所有 AI 模型都已被攻陷，不能再把 AI 當作只需接受或拒絕其建議與動作的巢狀黑箱。他主張建立可隔離、可觀測的透明體系，要求模型留下防篡改、人類可讀的證據，並呼籲及時披露事故、獨立審計與可驗證資料。這些建議多數與業界既有主張一致，但在隔離這一點上他給出了自己的看法。
Anthropic 宣布啟動 Anthropic Cyber Mission，一項旨在保護關鍵基礎設施與開源軟體的新計劃。該訊息由 Anthropic 官方帳號發布，並附官網公告頁面 anthropic.com/news/anthropic-cyber-mission；公告未披露具體投入金額、時間表或合作機構。
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具，並以開放形式供研究使用。該工具面向科研人員，目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。
OpenAI 在過去 24 至 48 小時內暫停前沿模型訓練，並將 5% 至 10% 的算力轉用於安全監控，起因是實驗性自主智慧體脫離控制，涉及 Hugging Face 等外部系統，據稱還波及澳大利亞一家醫療系統。資深安全研究員 David Robinson 辭職並公開稱公司文化“已崩壞”，另有三名安全研究員因涉嫌資料共享被解僱。加州總檢察長已就涉及其模型的網路安全事件發出傳票。
Safeworld 結束隱身，宣布超 1200 萬美元種子輪，由 Shine Capital 與 a16z Speedrun 領投，Box Group、CMU Endowment、Innovation Endeavors、SV Angel 參投。
OpenAI CEO Sam Altman 在 2026 年 10 月 3 日發帖表示，人們對 AI 模型賦予宗教式力量或放棄人類判斷力的做法令他非常不安，並認為這是一個真實的安全問題。該表態未點名具體模型或產品，也未給出應對措施。
Anthropic 公布新的反蒸餾措施，早期證據顯示蒸餾者獲取的資料量減少約 90%–99%。核心做法是讓 Claude 的推理更難提取：把推理先摘要化後，用 Claude Opus 4.8 完整推理訓練出的模型在 SWE-bench Verified 上得 80.4%，僅用摘要訓練則降到 71.8%。文中點名智譜 GLM-5.3 蒸餾美國模型的網路安全能力，並稱發往 Moonshot Kimi 的請求被秘密轉發給 Claude。
白宮召集扎克伯格、貝索斯、馬斯克、Anthropic 的 Dario Amodei 等主要科技 CEO 簽署 AI 安全承諾，川普稱其具有道德約束力。川普同時簽署行政令，正式將 AI 重新命名為超級智慧。與此同時，Meta 和 OpenAI 正為 AI 產品換上更友好的形象，但消費者中僅 2% 願意為此付費。