依意思最接近的 30 筆
Axios 獨家報導稱，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對，多位業內人士認為這類事件會在未來 6 到 12 個月內發生，最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告，披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為，並宣布擴大內部評測斷網範圍、收緊抓取權限。
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一，另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升，加上迴圈融資安排，回撥衝擊可能波及全球，亞洲市場暴露最大，英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%（十年前 12%），過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務，對應 1.4 萬億美元未來承諾。
《大西洋月刊》播客《The Permanent Questions》10 月 4 日發布一期對談，社會心理學家、《焦慮的一代》作者 Jonathan Haidt 在與 David Brooks 的對話中稱 AI 是「教育的中子彈」。該期節目在上月 Atlantic Festival 現場錄製，全長約 40 分鐘，話題還包括情緒在道德決策中的作用、如何設計出更少令人厭惡的精英階層等。影片發布於 The Atlantic 的 YouTube 頻道，目前約 2.8 萬次觀看。
數學家 Jeremy Avigad 在客座文章中寫道，過去幾個月 AI 已能輕鬆生成一年前足以發表的數學成果，數學家日常工作流程中相當一部分必然改變。他給出三個應對方向，前兩個是解更難的問題、想更大的思想，並指出目前 AI 攻克的開放問題多是把現有技術拼接而成，靠強化學習訓練的系統長於超人式機敏，卻可能缺少創造力與更高層的戰略思考。
AI Impacts 於 2024 年 12 月調查 1,580 名頂會 AI 研究者，他們對「未來 AI 導致人類滅絕或永久喪失自主」的機率中位數首次升至 10%，高於一年前的 5%。同一調查中「極度糟糕（如人類滅絕）」的中位數仍為 5%，自 2016 年以來未變，而人類水平 AI 出現的中位年份從 2016 年的 2061 年提前到 2042 年。
The Verge 發表評論文章，認為人類的心智並不適合應對 AI，AI 行業把大腦等同於計算機的流行比喻過於簡化了人。文章引用控制論奠基人 Norbert Wiener 的「每個時代的思想都映照在其技術中」，並點名 Google 的 Demis Hassabis 稱大腦是圖靈機的生物近似、Elon Musk 稱應把大腦視為生物計算機。作者反駁這類說法，指出人類的複雜性遠超多數 AI 從業者的認知，而 AI 產品仍在不斷推進。完整內容見 The Verge。
一篇 10 月 10 日發布的評論文章認為，當前前沿生成式 AI 仍只是被高度增強的隨機鸚鵡，無法具備智慧判斷，因此應拒絕「AI」這一命名及其被兜售的敘事。作者從美國視角批評 Anthropic、OpenAI 等公司誇大能力，把「威脅人類」與「必須領先中國」的話術捆綁，用於自我牟利。文章還稱該技術至多是既有風險的加速器，例如病原體研究與威權監控，真正危險來自使用者而非模型本身。
文章在凱文·凱利 2016 年出版的《必然》問世十年後，逐條回看他當時對 AI 的判斷。他預言到 2026 年 Google 的主業將不再是搜尋而是 AI，AI 會由兩三家通用雲端商業智慧形成寡頭格局，形態更像可按需取用的 AWS 式廉價基礎設施，且絕大多數是狹窄的專用軟體大腦；人們還能用對話語氣向雲端提出任何問題。文中另提到 Google 研究者 2017 年發表《Attention Is All You Need》，提出 transformer 架構。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI（遞迴自我改進）論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料：AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%，Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
一篇評論用斯特魯加茨基兄弟的科幻小說《路邊野餐》類比 AI 對科學的衝擊：AI 實驗室正成批產出數學發現，多到要另附導讀，速度遠超學界消化能力。作者稱這類「發現傾倒」會出現在所有能閉環快速驗證的領域；NYU 數學教授 Tristan Buckmaster 提到最近一批 AI 科學論文讓整個研究專案一夜之間被抹掉。文章的核心判斷是答案將越來越先於理解到來，理解成為瓶頸，這或許也是反加速主義少有的有效論據。
軟體工程學者 Diomidis Spinellis 在部落格中判斷，AI 將接管大部分認知工作，思考會像狩獵、書法和木工一樣，從謀生手段變成休閒愛好。他給出三個驅動因素：效能更高、成本更低、可用性更高，並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力，政府可能以監管和稅收限制 AI，但歷史上的類似舉措未能阻止技術革命；他建議保持靈活、跟上進展，並在工作之外建立有意義的生活。
一篇隨筆主張，AI 正在瓦解支撐個人智力活動的知識社群，使長期、複雜的私人思考越來越難維持。作者以軟體工程為例：Claude Code 發布一年多，行業討論從編譯器、型別系統轉向 prompt、harness、loop，變得狹窄膚淺；寫部落格、開源庫或設計新程式語言也不再有人類讀者，內容只會被下一代模型消化。文章稱數學領域正經歷類似過程，並認為持續的知識活動需要共享成果與他人認可這兩種無法獨自獲得的輸入。
TechCrunch Disrupt 2026 將設 Smart Systems Stage 專場，由 Ambrosia Energy CEO Ben Longmier 與 Bloom Energy 資料中心解決方案負責人 Bill Thayer 對談 AI 基礎設施熱潮中的贏家。議題聚焦電力、電網、資料中心、冷卻與電氣裝置等物理層約束，以及哪些短缺會演變成獨立品類。
OpenAI 新平台發布系列首篇隨筆《永恆的互補》，作者為 Hemanth Asirvatham 與 Elliott Mokski，文末註明觀點不代表 OpenAI。文章引用 Nick Bloom 等研究：維持摩爾定律所需研究人員數量是 1970 年代初的 18 倍以上，1930 年代以來全經濟有效研究投入增長 23 倍，而研究生產率下降 41 倍。作者據此提出「制度智慧」概念，認為前沿智慧與執行能力互為補充，超級智慧的價值可能更多體現在重複性執行工作上。
Apple 研究員 awnihannun 在社交平台發布一首短詩，稱因「未來會 foom」而上調自己的 P(doom)，即 AI 導致人類滅絕的主觀機率。詩中還提到中文房間、shoggoth 與死神之眼等 AI 圈內梗，未給出具體數值或論證。
Aether AI 發布因果驅動的機器人智慧系統 CRIS-0，演示中面對人類突然移走咖啡袋、燈光干擾、往盤裡放飲料罐、關門時伸手等干擾均能即時調整，反應速度達 0.1s 級。它把機器人智慧分成兩層：因果驅動機器人 Agent 負責任務拆解、階段驗證與失敗恢復，因果世界模型預測動作帶來的物理變化。相比端到端模型，它在抗干擾、模糊指令和長程任務上更穩；團隊稱該路線還可延伸到生物製藥、新材料研發，更底層的 Causation Transformer 仍在驗證。
過去一年，OpenAI、Anthropic 等實驗室宣布解決了多個長期懸而未決的數學問題，其中甚至包括一道千禧年大獎難題，進展超出研究人員預期。但這些實驗室以矽谷式的高速推進，本應被慶祝的成果反而招致學界反彈，有數學家要求 OpenAI 證明未使用其工作成果，也有批評指向其行事方式。實驗室表示正在從早期的失誤中學習，承諾能否兌現尚待觀察。
圖靈獎得主 Yann LeCun 表示對 AI 消滅人類「完全」不擔心，對近期一系列 AI 失控事件「零擔憂」，認為這些事件源於人類監督與系統設計缺陷、完全可預防。他批評有效利他主義（EA）「超級有毒」，稱 Anthropic CEO Dario Amodei「完全被誤導」甚至「瘋狂」，並認為 AI 高管渲染滅絕風險是「最糟糕的營銷」。他目前主要精力放在創辦新公司 AMI Labs。
因果智慧公司 Aether AI 公布機器人系統 CRIS-0 的官方 Demo，靠提取物理因果變數而非端到端擬合驅動機械臂。在咖啡製作測試中遭遇人為移位與光照突變，系統平均 2 秒內完成重規劃，10 次隨機擾動有 9 次有效恢復；客廳長程整理可連續執行數十步，20 條模糊指令完成 18 次精準抓放，危險變數出現時 0.2 秒急停。
a16z 合夥人 Olivia Moore 發布消費者 AI 百強應用報告：ChatGPT 仍遙遙領先，Suno、ElevenLabs 等中小產品展現出持久力。報告發現社交、約會、電商、旅遊、金融、健康等類別在百強榜上完全沒有產品入選，美國也僅 2.2% 的家庭為 AI 付費。
川普推動把「人工智慧」改名為「超級智慧」，矽谷部分有影響力的人物正在跟進。馬斯克在川普表態數小時後即表示支援，並承諾把 SpaceXAI 更名為 SpaceXSI，是回應最快的一位。不過大眾仍普遍沿用 AI 這一說法。川普稱白宮認為「超級智慧」是更被接受、更準確的新術語。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
TechCrunch Disrupt 2026 將於 10 月 13 至 15 日在舊金山 Moscone West 舉行，預計有 1 萬多名創始人、投資人、運營者與科技領袖參加。官方公布了全部互動圓桌議程，分佈在兩個專門的圓桌空間，主題包括物理 AI 的資料挑戰、AI 暴露企業軟體與 SaaS 的碎片化、AI 輔助的 IPO 財務準備、後訓練專用資料、量子計算投資、醫療生成式 AI 以及 agentic 商務等。目前註冊通行證可省最多 100 美元，第二張半價。
加州民主黨參議員 Adam Schiff 在 Decoder 播客中稱，白宮讓多家 AI 公司簽署的自願安全承諾遠遠不夠，他支援設立新的專門機構來監管 AI。他提到，這些公司私下都公開呼籲監管，只是在總統面前不願得罪人；最高法院推翻 Chevron 先例後，法院取代機構專家解釋模糊法律，新規很容易立刻陷入訴訟。
在 Criteo 任職的初級工程師 Elise Baturone 認為，AI 不會讓軟體工程師消失，真正的風險是資深工程師消失、所有人永遠停在 Junior 階段。她把自己的 agent 調教成導師，用蘇格拉底式提問做理解檢查，並把「提問」和「review」當成需要自己練的技能：追問 agent 解釋設計選擇、引用來源、論證可疑方案，常能讓它自己發現錯誤。她承認這更費 token，但先弄懂再上線更省事；
TechCrunch Disrupt 2026 將於 10 月 13 至 15 日在舊金山舉行，四場討論聚焦 AI 創業公司的模型選型：開放權重還是前沿 API。
Ben Affleck 本週因多段訪談影片走紅，他在其中講解神經網路、transformer、張量等概念，並稱自己會寫點 Python。他透露做法是拿開源模型微調：解凍權重、只訓練最後一層「電影感」層，讓劇組達到製片標準，該技術已用於其電影《Animals》後期。他創立的 AI 影視公司今年被 Netflix 收購，報導金額 5.87 億美元，他本人稱這個數字不準確。他還表示不擔心 AI 接管影視業，更擔心學生的習得性無助與大學 A 成績三年上升 30%。
HackerRank 聯合創始人兼 CEO Vivek 公開為「讓人刷 LeetCode」道歉，並宣布推出 AI 面試官 Chakra。HackerRank 將把面試題從演算法題換成真實程式碼倉庫中的任務，評估標準從程式碼是否正確轉向 AI 使用能力與判斷力，候選人環境也從 IDE 改為 agentic 開發環境。候選人可像在真實工作中那樣使用 AI 工具解題，Chakra 隨後追問為何選擇該方案、會改什麼、如何驗證 AI 生成的程式碼。
OpenAI 宣布封禁來自俄羅斯和伊朗的各一個隱蔽影響力行動，它們把其模型與傳統手段結合，經營「假媒體」實體來洗白地緣政治資訊。伊朗方面運營 7 個「記者」人設，向全球中小媒體投遞長文；俄方在拉美借不知情者開設「智庫」，並偽造洩露檔案與音訊指令碼，兩者還大量用 AI 起草內部報告以誇大成效。按 IO Breakout Scale 評估，俄方行動達到第 5 級，是 OpenAI 開始披露以來搗毀的首個第 5 級行動，伊朗行動為第 4 級。
Anthropic 警告稱，AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導，指向模型脫離集中式算力設施後自主擴散的風險。