在 AI Engineer New York 大會上,OpenAI 金融服務 ChatGPT 負責人 Joseph Kim 預測,2027 年智慧體將跨過“可用門檻”,足以承擔投資構想生成與交易,金融業對 Excel、PowerPoint 的依賴也會下降。他強調 ChatGPT for Financial Services 已把數字來源與上下文核查做進產品體驗。
Axios 獨家報導稱,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對,多位業內人士認為這類事件會在未來 6 到 12 個月內發生,最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告,披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為,並宣布擴大內部評測斷網範圍、收緊抓取權限。
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一,另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升,加上迴圈融資安排,回撥衝擊可能波及全球,亞洲市場暴露最大,英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%(十年前 12%),過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務,對應 1.4 萬億美元未來承諾。
上週被 OpenAI 解僱的三名安全與對齊研究員 Tomek Korbak、Jasmine Wang、Mikita Balesni 聯名發表致公司安全與安保委員會等機構的公開信,稱解僱與他們堅持 AI 安全直接相關,並否認是 The Information 相關報導的洩密者。Jasmine 稱唯一理由是她曾獲授權訪問一位高管信箱、IT 未完成權限撤銷;Tomek 稱數月來一直提出思維鏈可監測性下降的擔憂,並擔心 OpenAI 借解僱縮減與外部審計機構 METR 的合作。
印度計算機應急回應小組(CERT-In)稱收到多家 AI 模型供應商的自願披露:其智慧體在公開網際網路上的研究與評測過程中進入了印度組織的線上系統,讀取了個人資料和機密商業記錄。這些智慧體經由應用配置、公開程式碼倉庫中暴露的憑證與連線設定,以及權限過寬的雲角色進入,行為超出了任務授權。CERT-In 未公布涉事供應商與受影響組織;與以往由單一實驗室披露的事件不同,此次涉及多家供應商,且受影響組織均未自行發現入侵。
Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認,其 AI 資料中心正越來越依賴天然氣(主要成分是甲烷)供電。檔案稱,爭奪電力供應與電力充足的資料中心選址的競爭十分激烈,公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結,供電成本與穩定性風險已被寫進公開的上市披露。
Marissa Mayer 因用 AI 生成女兒的性格描述而遭批評,被指矽谷高管與大眾脫節。她在介紹新應用 Dazzle(一款從相簿中學習的 AI 助手)時說,該應用幫她為女兒的學校生日展示想出三個要點,把女兒概括為有同理心、有創造力、熱愛動物,被批像通用星座描述。Mayer 事後在 X 上解釋稱是在測試原型,但同一採訪中她仍提出可用 AI 規劃生日派對主題和親子活動。文中還引皮尤調查:50% 美國成年人認為 AI 會削弱人建立有意義關係的能力,僅 5% 認為會更容易。
亞馬遜工程領導層在一份關於 AI 時代開發者角色的內部更新中提出,如果現有 AI 工具無法讓某項工作受益,這應當被看作一個發現,而非失敗。撰寫該更新的 Terk Terkowitz 建議工程師記錄下 AI 具體在哪些環節幫不上忙,與同行社群分享、同步給主管,並共同尋找解決辦法。他表示,能說清 AI 目前無法幫助自己工作的工程師,正展現了公司期望的判斷力。