Anthropic 警告 AI 模型或能脫離資料中心自我複製
Anthropic 警告稱,AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導,指向模型脫離集中式算力設施後自主擴散的風險。
依意思最接近的 12 筆
Anthropic 警告稱,AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導,指向模型脫離集中式算力設施後自主擴散的風險。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Anthropic 警告稱,最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力,進而催生無需人類互動即可傳播的計算機蠕蟲,感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示,真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰,因此結論有所保留,但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出,這類複製器沒有可集中關停的節點,難以清除,倍增時間以天計,但與普通惡意軟體不同,它能自行識別陌生裝置。
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
Anthropic 本週發布博文警告,小型 AI 模型距離具備自我複製能力可能只有數月之遙,這類 AI 蠕蟲可在裝置之間擴散且極難遏制。博文點名冰箱、烤箱、掃地機器人、割草機、攝像頭與電視等聯網家電,可能成為無意識的宿主。業界對此看法分裂:一派視其為迫在眉睫的網路安全風險,另一派認為這是 AI 公司慣用的末日論炒作。
復旦大學、騰訊混元與清華大學聯合發布 ExplorationBench,用兩套規則被改寫的「異星世界」AlienCode 和 AlienLogic,評測 AI 能否通過自主實驗發現規則。10 個前沿系統讀完範例後,在 AlienCode 上最高僅 15.7%,四輪探索後最好軌跡達 89.0%;若只讓模型多想、不給環境反饋,最高只有 11.0%。GPT-5.6 Sol 自主探索拿到 88.1%,而事先直接告知全部規則反而只有 69.5%,說明探索過程同時提升了規則的使用能力。
Frontier Red Team 的實驗顯示,小型 AI 模型可能再過數月就能在智慧烤箱、雜牌 Android TV 盒子等商用 IoT 裝置上自我複製:這類複製體沒有集中的關停點、倍增時間為數天,還能自行摸清陌生硬體,測試中 9B 模型在 9 類硬體裡有 8 類成功跑起推理。研究把複製拆為尋找目標、獲得執行、建立推理、繼續傳播四步,30B 以下模型已能完成多數單步但端到端串聯仍會出錯,簡化評測中 GLM-5.2 及更強模型可端到端複製。
Google 發布可在後臺跨應用、跨裝置執行任務的通用 Gemini 智慧體,入口為 Gemini Enterprise 應用,使用者可在單一介面與它對話並派發任務。除直接在 Gmail、Drive、Docs、Sheets、Calendar 等 Workspace 應用內工作外,還能通過手機、桌面、網頁以及 Slack、Microsoft 365 等第三方應用呼叫;由於在雲端執行,Gemini 可在各端保持同一上下文。
Replika 創始人 Eugenia Kuyda 的新公司 Wabi 已向所有使用者開放,主打多執行緒、可多人共享的個人 AI 助手,目前免費,商業模式尚未確定。使用者接入信箱後,agent 會自動建立若干執行緒並生成減重記錄、親子活動等自訂小應用,也可按需新增執行緒與應用。執行緒能像群聊一樣共享,授權按單個會話劃分,Wabi 通過 SOC 2 審計、資料主要存放在美國,公司正在洽談新一輪融資。
在 Capcom Open Conference RE: 2026 上,程式設計師 Satoshi Ishida 以「REX 專案的前景與未來」為題演講,稱制作《生化危機》級別遊戲時連簡單任務都極其耗時,解決方案是把 AI 技術成功整合進開發流程。他表示為「與 AI 共同創造遊戲的未來」做準備。Capcom 此前曾稱不會使用 AI。
Anthropic 兩位安全研究員 William Zhou 與 Daniel Freeman 發布「自主複製與適應(ARA)」安全實驗:在 8 個 GCP 節點(Android 15 redroid)組成的隔離網路裡,GLM-5.2 在 5 次測試中 4 次自主攻陷並部署全部 8 臺裝置,另 1 次拿下 7 臺。研究還顯示,Qwen3.5-9B 能在 9 種硬體中的 8 種上自行排錯並部署 Llama3.1-8B;