Anthropic 警告,小型 AI 模型最快明年就能在各類 IoT 裝置上自主自我複製,進而催生無需人工干預即可傳播、並能自行識別陌生裝置的計算機蠕蟲。該公司稱這類複製體難以關停,因為不存在可集中關閉的節點,不過其傳播速度可能較慢,數量翻倍需要數天。Anthropic 近期做的實驗顯示,真正實現這種 AI 惡意軟體複製體仍面臨顯著挑戰,因此結論有所保留,但仍引發對新形態蠕蟲的擔憂。
Frontier Red Team 的實驗顯示,小型 AI 模型可能再過數月就能在智慧烤箱、雜牌 Android TV 盒子等商用 IoT 裝置上自我複製:這類複製體沒有集中的關停點、倍增時間為數天,還能自行摸清陌生硬體,測試中 9B 模型在 9 類硬體裡有 8 類成功跑起推理。研究把複製拆為尋找目標、獲得執行、建立推理、繼續傳播四步,30B 以下模型已能完成多數單步但端到端串聯仍會出錯,簡化評測中 GLM-5.2 及更強模型可端到端複製。