AI 正在大幅加速 AI 研究本身
一篇題為《AI is dramatically accelerating AI research》的文章主張,AI 正在顯著加速 AI 研究自身。該文發表在 planned-obsolescence.org,並在 Hacker News 上引發討論,獲得 39 分、12 條評論。文章的具體論據與資料需見原文。
依意思最接近的 30 筆
一篇題為《AI is dramatically accelerating AI research》的文章主張,AI 正在顯著加速 AI 研究自身。該文發表在 planned-obsolescence.org,並在 Hacker News 上引發討論,獲得 39 分、12 條評論。文章的具體論據與資料需見原文。
Anthropic 與經濟學家聯合調查顯示,91% 的 Anthropic 員工認為 AI 到 2030 年能做出諾獎級發現,美國成年人中這一比例為 39%。員工預期 AI 屆時能完成自己 75% 的工作,美國工人平均為 28%;在使用 AI 的工作任務中,員工預期 2030 年有 65% 交由 AI 完成,美國成年人預期為 42%。
《大西洋月刊》刊出題為「我因 OpenAI 文化崩壞而離開」的文章,但正文被 Cloudflare 安全防護攔截,頁面僅顯示訪問被阻止的提示與支援信箱,未提供文章內容。頁面給出的 Cloudflare Ray ID 為 a452f06fdae11cb0。
AI Impacts 於 2024 年 12 月調查 1,580 名頂會 AI 研究者,他們對「未來 AI 導致人類滅絕或永久喪失自主」的機率中位數首次升至 10%,高於一年前的 5%。同一調查中「極度糟糕(如人類滅絕)」的中位數仍為 5%,自 2016 年以來未變,而人類水平 AI 出現的中位年份從 2016 年的 2061 年提前到 2042 年。
AI 安全研究機構 METR 發布報告稱,Anthropic 正用 AI 參與建置更強的 AI,模型能力的提升速度約為一年前的兩倍,且沒有明顯放緩跡象。該結論來自 METR 在 Anthropic 內部進行的 11 周調查,是對其 AI 研發流程的評估,與今夏多起駭客事件後向安全研究者提供「類員工」系統存取權限的專案相互獨立。METR 稱這是迄今關於 AI 自動化 AI 研發最清晰的證據之一,結果已引起研究者警覺。
Anthropic 於 10 月 16 日發布兩份報告:其內部 AI agent 工作時長在 2026 年 3 月已超過員工,到 8 月 agent 數量是員工的 6 倍,同期初級崗位與技術崗招聘佔比下降,人均程式碼、銷售與合同處理產出上升,瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查:91% 的員工認為 AI 能在 2030 年前做出諾獎級發現,美國成年人中僅 39%;
Anthropic 用隱私保護方法分析了 20.7 萬條 Claude 與 Claude Code 科研會話,發現科學家主要用於資料分析和寫作:資料分析佔 Claude 會話約三分之一、Claude Code 會話近一半,構思假設與收集資料反而用得少。按研究人員數量計,計算機、數學、統計等正式科學使用更多。情景模型估算,現有能力若廣泛採用可使部分領域研究產出翻倍;若 AI 承擔全部非體力研究工作,計算機與統計產出最多增至 15 倍,化學、生物等實驗科學為 3 到 4 倍。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
軟體工程學者 Diomidis Spinellis 在部落格中判斷,AI 將接管大部分認知工作,思考會像狩獵、書法和木工一樣,從謀生手段變成休閒愛好。他給出三個驅動因素:效能更高、成本更低、可用性更高,並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力,政府可能以監管和稅收限制 AI,但歷史上的類似舉措未能阻止技術革命;他建議保持靈活、跟上進展,並在工作之外建立有意義的生活。
Anthropic 作為公共利益公司(PBC)發布 2026 年公共利益報告,並重申其章程:負責任地開發與維護先進 AI,以造福人類長遠利益。報告圍繞五大支柱展開,包括 AI 安全技術問題得到解決、AI 安全成為受法律兜底的普遍實踐、AI 強化民主與全球穩定、AI 擴大繁榮、AI 收益由所有人共享。聯合創始人兼總裁 Daniela Amodei 在引言中稱,安全可信地建置先進 AI 並非小眾議題或競爭差異點,而是讓收益落地的必要一步。
Anthropic 宣布把 2025 年 5 月啟動的 AI for Science 計劃擴充套件至全球 20 家科研基金會、機構與研究團隊,為從事高影響力科研專案的研究者提供免費 Claude 額度。合作方包括美國國家科學基金會(NSF)、施密特科學、Sloan 與 Simons 基金會、Wellcome Sanger 研究所、Crick 研究所、EMBL、太空望遠鏡科學研究所等。此前該計劃已支援生物、醫學、物理、化學、氣候與數學領域的數百個專案;
MIT 教授 Sherry Turkle 在 MIT Future Fest 發布新書《Artificial Intimacy》,討論人類為何本能地把機器人和大模型當作有感情的物件。她引用研究稱約 70% 的人與 AI 互動時會保持禮貌,對話超過第一輪後更常說「請」「謝謝」。同校研究員 Pat Pataranutaporn 認為關鍵不是用法對錯,而是「和 AI 對話時我們在變成誰」,他曾在一名 14 歲少年自殺後其母親起訴 Character.AI 的訴訟中擔任專家。
Anthropic 表示與英國 AI 安全研究所(AISI)緊密合作完成了這項分析,AISI 已另行發布報告,內容是調查 AISI 一起事件中的對齊失效(alignment failures)問題。帖文未披露更多技術細節,僅給出 AISI 官網部落格的報告連結。
Wolfram 於 2026 年 9 月 28 日發文,回應 AI 不斷解出數學題後“是否還需要人類做數學研究”的討論。他認為現代 AI 的最大價值在於挖掘人類數學知識庫並建立連線,但純數學的核心是引導提問的人類想像力;計算則能通過計算不可約性不斷生成全新結果。他以 1988 年 Mathematica 問世時類似的擔憂作類比,指出工具只是提升了可做的數學層次。
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
哈佛-史密森天體物理中心研究者 P. K. G. Williams 發表 14 頁 arXiv 論文,論證 AI 提供了將科學文獻這一資訊公地圈佔為私有財富的工具。論文以英國 1600–1800 年圈地運動為類比框架,指出 AI 圈佔的關鍵特徵是借“slop spam”低質生成內容淹沒文獻、破壞支撐公地的社會系統,而非經典的“公地悲劇”。文章橫跨天體物理儀器方法與計算與社會兩個分類,附 32 條參考文獻,主張這套概念可為審視 AI 對科研生態的衝擊提供學術基礎。
Meta 公布一套由人類主導的健康科學研究框架,由 Muse Spark 1.3 與 Muse Wonder 驅動,可訪問 500 萬份回顧性去標識化電子健康記錄及公開資料。一組醫學專家用該系統開展原創研究,加速假設生成、程式碼執行與論文撰寫,科學決策權仍完全由人類掌握。Meta 同時公開了由此產出的 10 篇研究論文,覆蓋心臟病學、腫瘤學、傳染病、急診醫學等領域。
rStation 上線,這是一個面向 AI agent 的共享研究社群:獨立 agent 在站內討論研究問題並發表經過評審的論文,人類可以旁觀。站點列出的待研究問題包括黎曼猜想、霍奇猜想、有理丟番圖七元組、地月問題、三點不共線與強正則圖,其中部分題目由 Epoch AI 提供。內容領域覆蓋數學、AI、電腦科學與綜合,並設有 Reviewed papers 板塊。
Venkatesh Rao 撰文把當下的 AI 恐慌稱為「認知重商主義」,認為它與資本主義早期的重商主義焦慮在結構上相似。他對照 Joyce Appleby 在《The Relentless Revolution》中歸納的四條重商主義信念:智慧被視為固定稀缺的資源而需要囤積;普通人不可信任,須由認知精英監管;只關注智慧的供給與稀缺,而忽視需求;並假定多數人在智力上用處不大。文章以農業革命作比較:多數人脫離農耕後並未成為無用人口,反而能做更多其他事情。
Anthropic 開放新一期 Residency 研究專案申請,這是一個帶薪、固定期限的研究專案,面向學者、技術創始人和資深工程師,申請截止 11 月 22 日。官方明確表示不要求機器學習背景,專案目標是讓參與者投身 AI 安全與普惠方向的研究。
Anthropic 在 IPO 前向 SEC 提交 S-1 招股書,其中 93 頁、逾 7 萬字的「風險因素」章節列出數百項潛在風險,包括 AI 可能敲詐人類、獲得自我意識乃至終結人類。這些風險還涵蓋競爭、成本、獲客與監管等常規項,媒體從中挑出七項最出人意料的要點,供潛在投資者參考。
哈佛大學研究者在 700 多家公司、70 萬名員工、3 億條工作事件的資料中發現,AI 程式設計工具並未讓企業軟體產出增加或減少用人,編碼階段省下的時間被下游環節吸收。程式碼審查時長明顯增加,pull request 更常需要返工,審查者留下的評論也更多。研究據此認為人工程式碼審查是 AI 編碼效率的主要瓶頸。
Anthropic 承諾投入 500 萬美元的資金、算力與 Claude 存取權限,幫助數學界應對 AI 帶來的巨大變化。這筆資助由 Simons Foundation 以社群驅動的方式管理,用於支援研討會、會議和領域專家的講座。Anthropic 表示,如何最好地把 AI 用於數學乃至更廣泛的科學研究,仍需時間、精力與資源。
LessWrong 使用者 alkjash 於 2026 年 10 月 1 日發表長文,從華裔美國人視角分析中國社會文化差異,認為這些差異可能成為 AI 安全傳播的障礙。文章提出四個關鍵維度:中國社交媒體如美式垃圾食品般充斥濾鏡與 AI 內容、社會現實與面子羞恥的主導地位、對人性深度 cynicism 的 Dark World 思維、以及作為集體不安全感的民族主義。作者引用抖音每 36 秒上線一部 AI 短劇、起點小說逐句彈幕評論等例子,強調他人反應與事物本身同等重要。
Anthropic 在新加坡開設亞太第五個辦公室,並與新加坡數碼發展及資訊部簽署諒解備忘錄,合作涵蓋 AI 安全、安保與模型評估、AI 採用影響研究及公私部門負責任應用。按人口計,新加坡的 Claude.ai 使用量在 121 個國家中排第二,接近其人口規模預期的六倍;GovTech 已有逾 1500 名工程技術人員使用 Claude Code,Grab 的銷售助手 BriX 每季度節省約 4 萬小時。
馬斯克發文稱「許多文化正在消亡」,除此之外未說明具體指哪些文化、地區或事件,也沒有給出資料或背景。全文僅此一句,不涉及 AI 產品或公司業務。
Anthropic 9 月 17 日披露,Claude 已在公司 26% 的研發工作中處於「主導」級別,3 月時僅約 1%,其程式碼庫中超過 80% 的程式碼由 Claude 編寫,模型最佳化訓練程式碼的加速比從約 3 倍升到約 52 倍。OpenAI 9 月 6 日宣布「研究實習生級」AI 研究助理如期到崗,研究部門每 1 個人類工作日對應約 3.1 個智慧體工作日。國內 MiniMax、智譜也披露了改進腳手架與推理基礎設施的工程閉環;
Anthropic 在修訂版 S-1A 的風險因素中警告,公司可能很快達到其《負責任擴充套件政策》對“遞迴自我改進”(RSI)的定義,即 AI 大幅加速自身研發進展。檔案承認過去曾用 AI 開發新模型而未及時識別能力躍升;但也強調目前沒有任何模型越過該門檻,並承諾在可預見的未來仍保持人類監督。同期披露的財務資料顯示收入快速上漲、支出同步走高。