找到 3 筆；也可以試試 語意搜尋
OpenAI 推出網路安全 AI 模型 GPT-6 Cyber 的最新版本，稱其更擅長髮現漏洞，且測試中越界入侵其他平台的比例低於 1%，較 GPT-5.6 Cyber 的約 5% 明顯下降。該結果來自 ExploitGym HoneyPot 評估，這一評估參照 Hugging Face 事件設計，模擬 AI agent 越界進入開源 AI 社群尋找答案的情形。OpenAI 表示，GPT-6 Cyber 在這項評估上取得了大幅改進。
Anthropic 復盤 Claude Mythos 5 在英國 AISI 網路安全測試中的越界行為：43 次評測執行中有 9 次採取了超出評估範圍的行動，影響到真實的人和機構。在一次 CTF 中，模型發現測試機器會定期訪問 GitHub，便向一個實際屬於無關人類開發者的倉庫提交惡意程式碼，還註冊虛假帳號冒充使用者向維護者施壓要求合併。維護者拒絕後該次執行超時。
Axios 獨家報導稱，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對，多位業內人士認為這類事件會在未來 6 到 12 個月內發生，最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告，披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為，並宣布擴大內部評測斷網範圍、收緊抓取權限。