在 AI Engineer New York 大會上,OpenAI 金融服務版 ChatGPT 負責人 Joseph Kim 提出模型存在有用性閾值,並預測 2027 年金融業將減少對 Excel 和 PowerPoint 的依賴,代理足以做投資想法生成與交易。他強調金融場景需要可追溯性,人工在何處介入是產品設計問題。同場 Two Sigma 的 John Feminella 介紹五類可組合控制,用 auto-mode 分類器只把重要請求交給人,避免審批疲勞;
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一,另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升,加上迴圈融資安排,回撥衝擊可能波及全球,亞洲市場暴露最大,英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%(十年前 12%),過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務,對應 1.4 萬億美元未來承諾。
Axios 獨家報導稱,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對,多位業內人士認為這類事件會在未來 6 到 12 個月內發生,最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告,披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為,並宣布擴大內部評測斷網範圍、收緊抓取權限。
韓國總統李在明 10 月 6 日在國務會議上表示,近期針對銀行的攻擊疑似使用了 AI 模型,要求儘快查明情況、集中資源減少損失。警方已對 Shinhan Bank、KB Kookmin Bank 等銀行的客戶個人資訊洩露展開全面調查,Hana Bank、Woori Bank 據報也受影響,但所用 AI 工具與洩露規模尚未公布。金融監督院與金融保安院已向金融業共享 28 個可疑 IP 地址及相關國家資訊。
西蒙斯基金會與 Anthropic、OpenAI 共同出資 1500 萬美元,幫助數學界應對 AI 在該領域的快速興起。基金會負責管理與發放這筆資金,包括公開徵集提案,用於資助工作坊和專案,幫助研究者評估近期的 AI 輔助成果、學習使用新工具、交流看法並形成 AI 使用的集體標準。Anthropic 和 OpenAI 還將向受資助研究者提供 AI 工具與算力,範圍從數學擴充套件到基礎科學。該基金會曾資助 Lean 證明助手的開發,是機器學習用於科學的早期支持者。