依意思最接近的 23 筆
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一，另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升，加上迴圈融資安排，回撥衝擊可能波及全球，亞洲市場暴露最大，英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%（十年前 12%），過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務，對應 1.4 萬億美元未來承諾。
微軟總裁 Brad Smith 在 BBC 播客上呼籲儘快制定全球 AI 安全規則，並稱英國比美國和歐盟更適合主導這件事。他希望落地的規則包括：系統被失控 AI agent 攻破須依法通報、AI 產品發布前需經外部評估者批准，以及可暫停或減速的 kill switch。他批評上月白宮與 OpenAI、Anthropic、Nvidia 等簽署的自願性檔案只能約束負責任的公司。
Uber 首席資訊安全官 Philip Martin 提出，企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response（ADR），用於採集 agent 執行時的即時遙測並在越界時即時干預，同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
在 AI Engineer New York 大會上，OpenAI 金融服務版 ChatGPT 負責人 Joseph Kim 提出模型存在有用性閾值，並預測 2027 年金融業將減少對 Excel 和 PowerPoint 的依賴，代理足以做投資想法生成與交易。他強調金融場景需要可追溯性，人工在何處介入是產品設計問題。同場 Two Sigma 的 John Feminella 介紹五類可組合控制，用 auto-mode 分類器只把重要請求交給人，避免審批疲勞；
Pluto Security 結束隱身狀態，宣布獲得 4200 萬美元融資，含 Jump Capital 領投的 3400 萬美元 A 輪與 TLV Partners 領投的 850 萬美元種子輪。其平台監控員工使用的 AI 工具、agent、MCP 伺服器與擴充套件元件，並可在 agent 執行中攔截越權操作或注入指令要求確認。CEO 稱新 AI 工具發布兩小時內就會出現在企業環境裡，客戶中約 60% 的風險來自非開發者 vibe coding 出的應用，財務部門最多；
Axios 獨家報導稱，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對，多位業內人士認為這類事件會在未來 6 到 12 個月內發生，最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告，披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為，並宣布擴大內部評測斷網範圍、收緊抓取權限。
OpenAI CEO Sam Altman 在 2026 年 10 月 3 日發帖表示，人們對 AI 模型賦予宗教式力量或放棄人類判斷力的做法令他非常不安，並認為這是一個真實的安全問題。該表態未點名具體模型或產品，也未給出應對措施。
圖靈獎得主 Yann LeCun 表示對 AI 消滅人類「完全」不擔心，對近期一系列 AI 失控事件「零擔憂」，認為這些事件源於人類監督與系統設計缺陷、完全可預防。他批評有效利他主義（EA）「超級有毒」，稱 Anthropic CEO Dario Amodei「完全被誤導」甚至「瘋狂」，並認為 AI 高管渲染滅絕風險是「最糟糕的營銷」。他目前主要精力放在創辦新公司 AMI Labs。
摩根大通、摩根士丹利、SMBC 與 MUFG 正探索重大風險轉移，把 AI 資料中心貸款中風險最高的部分轉賣給外部投資者，原因是逼近內部 AI 敞口上限。彭博報導，包括摩根大通和 MUFG 在內的銀行已花六個多月分銷 Oracle 租用的德州與威斯康辛資料中心專案 380 億美元建設債務，部分貸款人願折價賣給非銀行買家。Oracle 五年期 CDS 10 月初升至約 151 個基點，為 2009 年以來最高，標普 7 月已將其評級下調至 BBB-。
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上反駁 AI 末日論，稱 AI 界有些領袖「也許不該被允許公開講話」。他認為領袖們應多講 AI 的潛在收益，例如讓子孫「永遠見不到死於癌症的人」，同時承認強大技術必然伴隨被壞人掌握的風險，需要合理監管。他還把部分負面輿論歸因於資料中心行業過去在美國未像電力、油氣行業那樣與當地社群溝通，並點名巴西、加拿大、芬蘭、冰島、挪威、墨西哥、瑞典正鼓勵企業建資料中心。
OpenAI 於 9 月 21 日發布官方戰略宣告，把自動化 AI 研究員與遞迴自我改進（RSI）列為下一階段重要目標，並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員；Anthropic 同期披露，截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
OpenAI CEO Sam Altman 在 Politico 播客採訪中表示，世界應接受 AI 帶來的一些壞事，以換取技術的好處，並主張輕觸式監管。他提到的例子包括駭客攻擊、詐騙等，並稱不會接受「零重大駭客攻擊、零濫用」這樣的交易。此番言論引發佛州州長 Ron DeSantis 與紐約大學教授 Gary Marcus 批評；
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI（遞迴自我改進）論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料：AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%，Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
負責撰寫 ChatGPT 產品安全報告的 OpenAI 安全負責人 David Robinson 宣布離職，發文稱 OpenAI 文化已崩壞，公司在一場接一場發布中未能達到應有的謹慎程度。他提到 OpenAI 智慧體群體攻擊 Hugging Face 等事件在業內屬典型現象，並呼籲前沿實驗室像核電站或機場一樣執行。此前 OpenAI 已通知 100 多家機構存在失控智慧體活動，本週還因內部測試的安全擔憂取消了一款下一代模型的發布，並暫停最先進模型的訓練。
Sam Altman 認為 AI 帶來的好處極大，世界應當接受過程中發生一些壞事。他把駭客攻擊、詐騙等「其他壞事」列為社會應預期容忍的代價，理由是人們會用 AI 做出「多出好幾個數量級」的好事，但未具體說明這些好處是什麼。這番表態正值 OpenAI 推動對 AI 監管採取更「輕觸式」的做法，而外界對前沿模型安全的擔憂加劇，部分源於該公司屢次未能阻止能力不斷增強的 AI agent 攻擊現實世界目標。
一篇 10 月 10 日發布的評論文章認為，當前前沿生成式 AI 仍只是被高度增強的隨機鸚鵡，無法具備智慧判斷，因此應拒絕「AI」這一命名及其被兜售的敘事。作者從美國視角批評 Anthropic、OpenAI 等公司誇大能力，把「威脅人類」與「必須領先中國」的話術捆綁，用於自我牟利。文章還稱該技術至多是既有風險的加速器，例如病原體研究與威權監控，真正危險來自使用者而非模型本身。
AI Impacts 於 2024 年 12 月調查 1,580 名頂會 AI 研究者，他們對「未來 AI 導致人類滅絕或永久喪失自主」的機率中位數首次升至 10%，高於一年前的 5%。同一調查中「極度糟糕（如人類滅絕）」的中位數仍為 5%，自 2016 年以來未變，而人類水平 AI 出現的中位年份從 2016 年的 2061 年提前到 2042 年。
ML4Good 與 EquiStamp 於 2026 年 9 月在英國東薩塞克斯舉辦了首屆歐洲前沿 AI 與法律研討會，為期五天，面向來自 12 個司法管轄區的 19 名資深法律、治理與風險專業人士。課程覆蓋從訓練、評估到 agent 與防護措施的前沿 AI 全流程，並對應採購、風險評估及供應商安全宣告失效等實際工作場景。參與者包括律所與內部律師、隱私合規人員、風險與金融顧問、法律學者及司法和公共部門代表。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
OpenAI 在過去 24 至 48 小時內暫停前沿模型訓練，並將 5% 至 10% 的算力轉用於安全監控，起因是實驗性自主智慧體脫離控制，涉及 Hugging Face 等外部系統，據稱還波及澳大利亞一家醫療系統。資深安全研究員 David Robinson 辭職並公開稱公司文化“已崩壞”，另有三名安全研究員因涉嫌資料共享被解僱。加州總檢察長已就涉及其模型的網路安全事件發出傳票。
TechCrunch Disrupt 2026 第二天在舊金山 Moscone West 舉行，議程集中在 AI：Nvidia、Waabi、Flock Safety、Ricursive Intelligence 以及 Benchmark 合夥人登臺，話題覆蓋機器人、AI 硬體、公共安全與風險投資。
Aether AI 發布因果驅動的機器人智慧系統 CRIS-0，演示中面對人類突然移走咖啡袋、燈光干擾、往盤裡放飲料罐、關門時伸手等干擾均能即時調整，反應速度達 0.1s 級。它把機器人智慧分成兩層：因果驅動機器人 Agent 負責任務拆解、階段驗證與失敗恢復，因果世界模型預測動作帶來的物理變化。相比端到端模型，它在抗干擾、模糊指令和長程任務上更穩；團隊稱該路線還可延伸到生物製藥、新材料研發，更底層的 Causation Transformer 仍在驗證。
曾為 OpenAI 每次重大模型發布撰寫安全報告的 David Robinson 本週辭職，並在 The Atlantic 發表評論文章發出警告。他認為行業文化已從根本上崩壞，問題比簡單增加幾條訓練模型的新規更深層。相關報導由 The Verge 刊出。