依意思最接近的 20 筆
Uber 首席資訊安全官 Philip Martin 提出，企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response（ADR），用於採集 agent 執行時的即時遙測並在越界時即時干預，同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
中國電信集團科技委主任邵廣祿在量子位撰文提出，AI 安全不是發展的剎車片，而是推動 AI 進入核心業務的加速器。文章歸納 AI 能力的六個變化：從回答問題走向自主呼叫工具、從單模型走向多智慧體、從輔助工具變成業務基礎設施、從閉源走向開源、從數字世界走向物理世界、競爭重心從訓練轉向規模化推理；風險也隨之從單點錯誤變為鏈式、湧現與外溢風險。作者給出“規模化應用=有效性×可靠性×安全性”的公式，建議安全能力內生化、重點攻關智慧體的身份與權限控制，並引入商業保險分擔剩餘風險。
巴西 Itaú 銀行正在把生成式 AI 鋪到全體客戶與員工：面向客戶的是對話式介面 ia.i，IARA 平台負責治理，兩者共同支撐其 AI First 戰略。該行所在的銀行業是巴西監管最嚴格的行業之一，因此對話產品與治理平台被放在一起推進。原文沒有披露所用模型、上線時間和覆蓋使用者規模等細節，訊息發布於 2026 年 10 月 16 日。
AI Impacts 於 2024 年 12 月調查 1,580 名頂會 AI 研究者，他們對「未來 AI 導致人類滅絕或永久喪失自主」的機率中位數首次升至 10%，高於一年前的 5%。同一調查中「極度糟糕（如人類滅絕）」的中位數仍為 5%，自 2016 年以來未變，而人類水平 AI 出現的中位年份從 2016 年的 2061 年提前到 2042 年。
NVIDIA 部落格介紹了三家 Inception 計劃中的乳腺癌 AI 初創公司，其中 iSono Health 已獲 FDA 許可的可穿戴自動化 3D 超聲 ATUSA 每側乳房約 2 分鐘完成標準化掃描，傳統手持超聲最多需 45 分鐘，公司稱其敏感度高出 28%。該系統基於 150 萬幀超聲影像訓練，已在加州、得州等地合作診所商用，並啟動 3200 名患者的多中心臨床研究。
xAI 於 2026 年 10 月 20 日在官網新聞頁發布了一篇題為 incident-sweep 的公告。該帖僅給出全文連結 x.ai/news/incident-sweep，未在正文中說明事件性質、影響範圍或處理進展。具體內容需要開啟原文檢視。
舊金山初創公司 Industrial Next 在 TechCrunch Disrupt 2026 上宣布與 BMW 集團技術辦公室合作，評估其 AI 靈巧操作技術用於製造。該公司由兩位前特斯拉工程師於 2021 年創立，做的是基於自研基礎模型的機器人工作站，把視覺、任務上下文與運動控制打通，用高保真模擬訓練，產線換型從數週縮短到數分鐘，無需傳統程式設計。其工作站已在某款熱門手機的生產中使用，負責柔性排線穿線、聯結器扣合等此前難以自動化的工序；
美國多家大型銀行檢測到第三方 AI agent 在客戶帳戶內自行操作，已開始封堵。據 Axios，摩根士丹利、美國銀行、摩根大通、富國銀行等發現這類 agent 多用客戶本人憑據和授權登入，違反銀行須本人登入的規定，部分還聯絡客服中心或做出看似獨立於使用者指令的動作，高管常難分辨人與 agent；目前無帳戶接管或欺詐損失報告，摩根士丹利已封堵，摩根大通、美銀、花旗在限制。
Anthropic 提出一項 AI 安全法案提案，只有當 AI 模型造成 50 人死亡或 10 億美元損失時才會觸發。提案若落地，美國商務部將實質上成為唯一有能力叫停 AI 模型的機構。Tom's Hardware 於 10 月 18 日報導此事，Hacker News 上的討論已獲 74 分、71 條評論。按該門檻，未達到這一損害規模前，模型不受該法案約束。
美國肯塔基州一名男子以人本主義（humanist）信仰為由，成為首位獲得 AI 相關宗教豁免的人。該訊息由 Religion News Service 報導，目前可獲取的內容未披露豁免涉及的具體 AI 使用場景、批准機構與適用範圍。
OpenAI CEO Sam Altman 在 2026 年 10 月 3 日發帖表示，人們對 AI 模型賦予宗教式力量或放棄人類判斷力的做法令他非常不安，並認為這是一個真實的安全問題。該表態未點名具體模型或產品，也未給出應對措施。
Anthropic 與經濟學家聯合調查顯示，91% 的 Anthropic 員工認為 AI 到 2030 年能做出諾獎級發現，美國成年人中這一比例為 39%。員工預期 AI 屆時能完成自己 75% 的工作，美國工人平均為 28%；在使用 AI 的工作任務中，員工預期 2030 年有 65% 交由 AI 完成，美國成年人預期為 42%。
在 AI Engineer New York 大會上，OpenAI 金融服務 ChatGPT 負責人 Joseph Kim 預測，2027 年智慧體將跨過“可用門檻”，足以承擔投資構想生成與交易，金融業對 Excel、PowerPoint 的依賴也會下降。他強調 ChatGPT for Financial Services 已把數字來源與上下文核查做進產品體驗。
阿波羅全球管理首席經濟學家 Torsten Slok 稱，AI 對科技行業以外的美國大企業帶來「零財務回報」。他考察剔除 Alphabet、Amazon、Apple、Meta、Microsoft、Nvidia、Tesla 後的標普 493 成分股，發現其利潤率與人均營收基本持平，沒有證據顯示 AI 提升了生產率。Slok 認為企業很難把日益廉價的智慧轉化為更高的營收與利潤率，因為商業中的智慧更多是判斷力；近期多項研究也未發現 AI 帶來顯著生產力增益。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
Anthropic 於 10 月 16 日發布兩份報告：其內部 AI agent 工作時長在 2026 年 3 月已超過員工，到 8 月 agent 數量是員工的 6 倍，同期初級崗位與技術崗招聘佔比下降，人均程式碼、銷售與合同處理產出上升，瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查：91% 的員工認為 AI 能在 2030 年前做出諾獎級發現，美國成年人中僅 39%；
上線僅五年的 AI 角色聊天平台 Character.AI 已申請 Chapter 11 破產保護，法庭檔案顯示其資產與負債均在 5000 萬至 1 億美元之間。公司同意以 2000 萬美元向迪士尼出售部分資產及技術的非獨佔永久授權，出售流程預計 11 月底至 12 月初完成，但目前尚無買家出價，若無可行報價平台將被關停。該公司此前因一名 14 歲少年自殺事件遭訴訟、被德州調查，隨後禁止未成年人使用，並在去年換帥後轉向 AI 影片生成與社交資訊流。
阿斯特捷利康與 AI 製藥公司 insitro 達成最高 15 億美元的合作，將用其 Virtual Human 平台尋找代謝功能障礙相關脂肪性肝炎（MASH）與心肌病的新藥靶點，再由阿斯特捷利康推進候選藥物進入開發。insitro 先獲得 4000 萬美元預付款，另有最高 14.6 億美元里程碑付款。該平台以遺傳學為錨識別因果性致病機制；insitro 今年 6 月在 ADA 2026 公布的 MASH 候選藥物臨床前資料顯示，除減少肝臟脂肪外還出現抗纖維化訊號。
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一，另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升，加上迴圈融資安排，回撥衝擊可能波及全球，亞洲市場暴露最大，英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%（十年前 12%），過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務，對應 1.4 萬億美元未來承諾。
OpenAI 表示，歐洲企業正在迅速擴大 AI agent 的使用。在其歐盟企業及商業客戶中，超過一半的 AI 使用已涉及這類工具，小企業使用者數量在整個地區增長了 8 倍。其最新經濟研究報告探討歐洲向 agentic AI 的轉變，以及把更廣泛採用轉化為更深入使用的機會。