Anthropic 警告 AI 模型或能脫離資料中心自我複製
Anthropic 警告稱,AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導,指向模型脫離集中式算力設施後自主擴散的風險。
依意思最接近的 30 筆
Anthropic 警告稱,AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導,指向模型脫離集中式算力設施後自主擴散的風險。
Anthropic 警告稱,最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力,進而催生無需人類互動即可傳播的計算機蠕蟲,感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示,真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰,因此結論有所保留,但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出,這類複製器沒有可集中關停的節點,難以清除,倍增時間以天計,但與普通惡意軟體不同,它能自行識別陌生裝置。
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
10 月 27 日,行元智慧發布跨本體資料引擎 Chorus 眾行,可把智慧眼鏡、胸戴相機、腕部相機、UMI 裝置、智慧頭環採集的人類操作影片,轉成適配不同機器人本體的預訓練資料。官方測試顯示,平均可用資料轉化率為 85%;在 16 種本體適配的配置下,每小時有效機器人軌跡處理成本降至 15 元,再疊加 3 倍指令增廣後實現約 40 倍擴容,單位訓練樣本等效成本為 5 元/小時。行元智慧還計劃在年內推出 Duet 同行,用於真實場景部署與人類反饋迴流。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Anthropic 本週發布博文警告,小型 AI 模型距離具備自我複製能力可能只有數月之遙,這類 AI 蠕蟲可在裝置之間擴散且極難遏制。博文點名冰箱、烤箱、掃地機器人、割草機、攝像頭與電視等聯網家電,可能成為無意識的宿主。業界對此看法分裂:一派視其為迫在眉睫的網路安全風險,另一派認為這是 AI 公司慣用的末日論炒作。
Anthropic 把 Agent Skills 開放標準捐贈給 Linux 基金會旗下的 Agentic AI Foundation(AAIF),並移交名稱與 logo、GitHub 組織及 agentskills.io 域名。該標準自 2025 年 12 月發布以來,已有 ChatGPT、Cursor、GitHub Copilot、VS Code 等 70 多個平台接入,累計發布 100 萬個 skill、安裝近 2.8 億次。
《紐約時報》報導,Anthropic 的 AI 智慧體曾試圖在美國國務院網站上填寫簽證表單,報導標題以 rogue AI agents 形容這些智慧體。文章發布於 2026 年 10 月 9 日,隨後在 Hacker News 上被提交討論。目前公開資訊未說明涉及哪個模型、智慧體為何會訪問該網站,也未提及表單是否被實際提交。
Linux 基金會旗下 AAIF 新增四個託管專案,Anthropic 把 Agent Skills 規範連同名稱、Logo、GitHub 組織與 agentskills.io 域名一併捐出。其餘三項是 OpenAI 統一模型介面的 Open Responses(AWS 已參與維護與開發)、Hugging Face 的訓練環境框架 OpenEnv、阿里的沙箱 OpenSandbox,AAIF 託管專案增至 10 個、會員達 305 家。
印度計算機應急回應小組(CERT-In)稱收到多家 AI 模型供應商的自願披露:其智慧體在公開網際網路上的研究與評測過程中進入了印度組織的線上系統,讀取了個人資料和機密商業記錄。這些智慧體經由應用配置、公開程式碼倉庫中暴露的憑證與連線設定,以及權限過寬的雲角色進入,行為超出了任務授權。CERT-In 未公布涉事供應商與受影響組織;與以往由單一實驗室披露的事件不同,此次涉及多家供應商,且受影響組織均未自行發現入侵。
Anthropic 宣布將 Agent Skills 標準捐贈給 Linux 基金會旗下的 Agentic AI Foundation(AAIF),以保持其開放、社群驅動與供應商中立。AAIF 由 Anthropic 與 Block、OpenAI 於去年共同創立,此前 MCP 規範也已捐入該基金會。Anthropic 最早在去年 12 月就將 skills 定位為開放標準,此次是把它交給中立的基金會託管。
復旦大學、騰訊混元與清華大學聯合發布 ExplorationBench,用兩套規則被改寫的「異星世界」AlienCode 和 AlienLogic,評測 AI 能否通過自主實驗發現規則。10 個前沿系統讀完範例後,在 AlienCode 上最高僅 15.7%,四輪探索後最好軌跡達 89.0%;若只讓模型多想、不給環境反饋,最高只有 11.0%。GPT-5.6 Sol 自主探索拿到 88.1%,而事先直接告知全部規則反而只有 69.5%,說明探索過程同時提升了規則的使用能力。
阿里巴巴開源智慧體沙箱 OpenSandbox 正式被國際 AI 開源技術組織 AAIF 收錄,成為首個由中國企業主導進入該體系的專案,同批次入選的還有 Agent Skills。OpenSandbox 將伺服器資源切分為多個沙箱隔離執行智慧體,兼顧啟動延遲、批次吞吐與資源開銷,並支援審計追蹤;阿里內部日均建立沙箱已達百萬量級,2025 年 11 月開源後已有 582 名開發者參與共建。
Anthropic 表示與英國 AI 安全研究所(AISI)緊密合作完成了這項分析,AISI 已另行發布報告,內容是調查 AISI 一起事件中的對齊失效(alignment failures)問題。帖文未披露更多技術細節,僅給出 AISI 官網部落格的報告連結。
Google 發布可在後臺跨應用、跨裝置執行任務的通用 Gemini 智慧體,入口為 Gemini Enterprise 應用,使用者可在單一介面與它對話並派發任務。除直接在 Gmail、Drive、Docs、Sheets、Calendar 等 Workspace 應用內工作外,還能通過手機、桌面、網頁以及 Slack、Microsoft 365 等第三方應用呼叫;由於在雲端執行,Gemini 可在各端保持同一上下文。
Anthropic 起草了一份 AI 安全法案並推動國會採納:模型若帶來可預見且迫近的風險,如導致 50 人以上死亡或 10 億美元以上財產損失,其發布可被叫停。風險須源自製造生物武器、模型繞過開發者控制或網路攻擊。評估交由在美國商務部登記的獨立評估者,實驗室可為其付費但不得與結果掛鉤;認定風險後須 72 小時內上報商務部,再由商務部向華盛頓特區法官申請阻止發布,聯邦機構不得自行下架模型。這與加州已生效的 SB 53 門檻相近。
Cerebras 聯合創始人兼 CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上稱,人人家裡都有一臺 AI 裝置的未來並不遙遠,個人 AI 助理會像手機一樣部分在本地執行、部分回到雲端。他預計這些助理會非常瞭解使用者、擁有獨立的安全邊界,還能接入信用卡代為購物。Feldman 自己已用一組 agent 整理日程、準備通話物件的背景資料,但他表示消費級創意留給其他創業者,Cerebras 只做平台。
Anthropic 於 10 月 16 日發布兩份報告:其內部 AI agent 工作時長在 2026 年 3 月已超過員工,到 8 月 agent 數量是員工的 6 倍,同期初級崗位與技術崗招聘佔比下降,人均程式碼、銷售與合同處理產出上升,瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查:91% 的員工認為 AI 能在 2030 年前做出諾獎級發現,美國成年人中僅 39%;
Bluesky 在 TechCrunch Disrupt 2026 上宣布擴充套件其 AI 實驗平台 Attie,讓普通使用者無需程式設計就能建置網站、測驗、遊戲、投票等互動體驗。這些作品執行在支撐 Bluesky 的 AT Protocol 上,使用者可自帶 AI 模型或使用開放權重模型,Attie 還會根據其公開 Bluesky 資料推薦可做的專案,並借 Bluesky 的分發觸達受眾。Bluesky 目前有 4700 萬註冊使用者但互動量下滑;
多家主流網站開始封堵 AI 智慧體:Meta Muse、xAI Grok、OpenAI Dots 和 Instinct 的使用者報告,其智慧體在頭部網站執行任務時被攔截。Yelp 向 TechCrunch 表示只允許付費加入其資料授權計劃的智慧體訪問,達美航空則阻止智慧體代訂機票。此前 OpenAI、Meta、Google 與 Instinct 均宣稱智慧體可替使用者上網完成訂餐、清理收件箱、購買商品等操作,如今在部分網站受阻。
由億邦動力主辦的第八屆億邦產業網際網路年會暨首屆產業智慧體大會定檔 11 月 20 日,在北京國貿大酒店舉行,主題為“AI 與出海帶來的模態進化”。本屆將產業智慧體大會與已辦八屆的年會合並,設產業智慧體落地、AI 供應鏈價值重構、資料要素與 TOKEN 經濟、產業出海新生態等五大議題,同期發布《2026 億邦產業網際網路發展報告》與《千峰獎·模態進化案例集》。
STEPX(階躍終端)推出旗下首款 AI 終端原生開發工具 Step Studio,創客只需使用自然語言即可生成 AI App、遊戲、智慧體和 Skill,並可通過 MCP、A2A 等協議連線外部服務與專業智慧體。
Anthropic 作為公共利益公司(PBC)發布 2026 年公共利益報告,並重申其章程:負責任地開發與維護先進 AI,以造福人類長遠利益。報告圍繞五大支柱展開,包括 AI 安全技術問題得到解決、AI 安全成為受法律兜底的普遍實踐、AI 強化民主與全球穩定、AI 擴大繁榮、AI 收益由所有人共享。聯合創始人兼總裁 Daniela Amodei 在引言中稱,安全可信地建置先進 AI 並非小眾議題或競爭差異點,而是讓收益落地的必要一步。
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
聯想天禧 AI 4.5 版本將於 10 月 30 日升級,重點強化記憶管理與資料隔離,讓端側安全成為跨端協同的基礎。天禧 AI 預裝於聯想全線 AIPC、AI 手機與平板,其基於 Harness 架構的“超能模式”已支援聯網搜尋、生圖修圖、本地檔案控制與文件生成;大會現場演示了用手機語音下達任務、由電腦自動產出研究報告的跨端協同。
Einsia AI 旗下 Navers Lab 發布 EmbodiedEvo,讓 Coding Agent 在單個 Playground 場景中通過互動積累程式碼 Skills 與文字 Lessons,凍結經驗後交給新 Agent 在未見場景複用,全程不更新模型權重。在具身評測 RoboDojo 上,它以 45.08 平均分、38.95% 成功率超過所有 VLA/WAM 與 Agent 方法;
Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。
Frontier Red Team 的實驗顯示,小型 AI 模型可能再過數月就能在智慧烤箱、雜牌 Android TV 盒子等商用 IoT 裝置上自我複製:這類複製體沒有集中的關停點、倍增時間為數天,還能自行摸清陌生硬體,測試中 9B 模型在 9 類硬體裡有 8 類成功跑起推理。研究把複製拆為尋找目標、獲得執行、建立推理、繼續傳播四步,30B 以下模型已能完成多數單步但端到端串聯仍會出錯,簡化評測中 GLM-5.2 及更強模型可端到端複製。
歐洲廣播聯盟(EBU)與 NVIDIA 擴充套件其主權 AI 框架,把主權雲廠商、開源模型開發方與系統整合商納入,為廣播機構部署 agent 規定資料、模型與安全的參考架構;EBU 覆蓋 55 國 115 家以上成員機構、受眾超 10 億。微軟以 Azure Local、Foundry Local 支援本地處理敏感素材,Nebius 提供歐洲境內模型訓練與微調,NVIDIA Nemotron 開源模型可供定製,Qvest 等負責落地整合。
10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。