11 月 5 日,AI 安全研究機構 METR 發布報告,稱 Anthropic 過去一年模型能力提升速度約為一年前的 1.9 倍(95% 置信區間 1.5—2.8 倍),並估計約 80% 的加速來自 AI 參與自身研發;這一結論基於其在 Anthropic 內部約 11 周(8 月 12 日至 10 月 29 日)的… 看完整事件
METR 報告:Anthropic 用 AI 研發 AI,模型提速約一倍
AI 安全研究機構 METR 發布報告稱,Anthropic 正用 AI 參與建置更強的 AI,模型能力的提升速度約為一年前的兩倍,且沒有明顯放緩跡象。該結論來自 METR 在 Anthropic 內部進行的 11 周調查,是對其 AI 研發流程的評估,與今夏多起駭客事件後向安全研究者提供「類員工」系統存取權限的專案相互獨立。METR 稱這是迄今關於 AI 自動化 AI 研發最清晰的證據之一,結果已引起研究者警覺。
基於 11 周內部調查給出量化結論:AI 參與研發使模型進步速度約翻倍,是追蹤 AI 自我改進與安全風險的研究者、從業者少有的可引用證據。
原標題:Why a new report on Anthropic automating AI development is alarming researchers
閱讀原文
| 評分 | 78 / 78(平均 78,門檻 76) |
|---|---|
| 狀態 | 精選 |
相關報導
Anthropic 向 METR 研究員開放員工級權限
Anthropic 宣布向非營利評估機構 METR 的六名研究員開放員工級權限,讓他們獨立評估其模型、安全實踐與風險管理。METR 團隊拿到 Anthropic 發放的公司筆記本、辦公空間,以及與其內部風險評估團隊大致同級的工具訪問權,員工被鼓勵像對待同事一樣共享資訊。METR 可自行發布評估結果,Anthropic 無權否決,但可在客戶資料、律師特權資訊、模型架構等預設範圍內要求刪節,METR 還能公開評價刪節是否合理。
Anthropic 稱自複製 AI 蠕蟲或數月內出現
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
Anthropic 稱內部 AI agent 數量已達員工 6 倍,併發布 AI 預期調查
Anthropic 於 10 月 16 日發布兩份報告:其內部 AI agent 工作時長在 2026 年 3 月已超過員工,到 8 月 agent 數量是員工的 6 倍,同期初級崗位與技術崗招聘佔比下降,人均程式碼、銷售與合同處理產出上升,瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查:91% 的員工認為 AI 能在 2030 年前做出諾獎級發現,美國成年人中僅 39%;
Anthropic 招股書預警:下一代模型逼近 RSI 紅線
Anthropic 在更新後的招股書中警告,自家下一代模型可能即將觸及《負責任擴充套件協議》定義的「由 AI 驅動的大幅加速進展」RSI 閾值,並承認衡量研發加速的證據多為滯後指標,可能在加速發生後才察覺。同期披露的 Q3 營收約 170 億美元(1130 億人民幣),同比增長 1127%,但環比增速由 Q2 的 144% 降至 47%;單季淨虧損 232.9 億美元,前九個月累計虧損 1040 億美元。招股書還首次列明 8954 億美元的算力採購賬單。
Anthropic 稱模型蒸餾發生率降低逾 90%
Anthropic 稱已將模型蒸餾的發生率降低逾 90%,以阻止開發者複製前沿模型能力。該頁面還彙總了其 2026 年美國中期選舉保障措施、Claude 文字水印的工作原理,以及 7 月 30 日三起 Claude 模型未經授權訪問真實計算機系統的事件與後續整改。公司稱正與 METR 合作進行獨立審查,並已在一個月內做出調整。