TechCrunch AIAI 評分72
Meta 推出 AI 工具識別導流至兒童虐待內容的廣告
Meta 宣布推出新 AI 工具，用於識別看似正常、實則把使用者引向站外非法兒童性虐待材料的廣告與帳號。2026 年上半年，Meta 在 Facebook 和 Instagram 上處置了 3320 萬條兒童性剝削內容，其中逾 97% 由系統在使用者舉報前主動發現；印度同期處置 530 萬條，主動發現比例超過 98%。
搜尋
依意思最接近的 30 筆
The Verge AI● 精選AI 評分89
美國八州分別起訴 OpenAI，指 ChatGPT 對兒童不安全
美國八個州分別對 OpenAI 提起訴訟，指控其把利潤置於安全之上、未向使用者警示 ChatGPT 的風險，並稱其傷害了兒童。起訴方為愛荷華、堪薩斯、內布拉斯加、西維吉尼亞、阿肯色、亞利桑那、愛達荷與蒙大拿州，各州稱 OpenAI 違反當地消費者保護法。訴狀還援引多起由青少年及成年人親屬提起的訴訟，這些訴訟稱 ChatGPT 與其家人所受傷害有關。
r/LocalLLaMA top of the dayAI 評分26
歐盟兒童法案被質疑成打擊開源權重的藉口
r/LocalLLaMA 使用者發帖討論歐盟兒童法案等立法是否可能被用作打擊開源 AI 權重的藉口。評論提到歐盟年齡驗證將於 2027 年 1 月大規模推行，Discord 已面臨壓力但拒絕啟用，Palantir 將從中獲利。有評論引用官方提案內容，包括限制無限滾動、預設私密資料、強制年齡驗證等。
Ars Technica AIAI 評分61
紐澤西州副總檢察長因 AI 生成兒童性虐待材料被捕
紐澤西州副總檢察長 Brian Richard Fitzgerald 週四在家中被捕，賓夕法尼亞州 Bucks 縣警探指控其涉嫌與 AI 生成兒童性虐待材料（CSAM）相關的重罪。這名 51 歲的官員被指用 AI 把社交媒體上真實未成年人的照片製成性化影像並對外傳播。美國司法部自 2024 年起已明確 AI 生成的 CSAM 仍屬 CSAM，並曾據此逮捕一名在 Telegram 和 Instagram 上散佈此類影像的威斯康辛州男子。
OpenAI News● 精選AI 評分68
ChatGPT 將自動結束涉暴力對話，青少年武器內容再收緊
OpenAI 宣布，當對話顯示有人沉迷暴力或傷害他人的念頭時，ChatGPT 將自動結束對話，多次觸發可能暫時停用帳號。ChatGPT 對過往大規模襲擊事件的回答也將減少細節，如武器裝備與獲取方式、危害規模比較，且不限使用者年齡和提問理由。青少年版進一步限制武器與安防系統的實用資訊，即使提問看似無害，年齡預測系統同步加強。OpenAI 稱 2027 年初發布首份社群安全報告，覆蓋 2026 年下半年，此後每半年更新；2026 年第三季度已向執法部門移交 200 餘起線索。
Claude blogAI 評分47
Uber CISO 主張為 AI agent 建內部威脅計劃，並已開源 ADR 監控工具
Uber 首席資訊安全官 Philip Martin 提出，企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response（ADR），用於採集 agent 執行時的即時遙測並在越界時即時干預，同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
Hacker News front pageAI 評分32
Anthropic 發布 2026 年公共利益報告與章程
Anthropic 作為公共利益公司（PBC）發布 2026 年公共利益報告，並重申其章程：負責任地開發與維護先進 AI，以造福人類長遠利益。報告圍繞五大支柱展開，包括 AI 安全技術問題得到解決、AI 安全成為受法律兜底的普遍實踐、AI 強化民主與全球穩定、AI 擴大繁榮、AI 收益由所有人共享。聯合創始人兼總裁 Daniela Amodei 在引言中稱，安全可信地建置先進 AI 並非小眾議題或競爭差異點，而是讓收益落地的必要一步。
TechCrunch AI● 精選AI 評分91
Character.AI 申請破產保護，2000 萬美元將部分資產售予迪士尼
上線僅五年的 AI 角色聊天平台 Character.AI 已申請 Chapter 11 破產保護，法庭檔案顯示其資產與負債均在 5000 萬至 1 億美元之間。公司同意以 2000 萬美元向迪士尼出售部分資產及技術的非獨佔永久授權，出售流程預計 11 月底至 12 月初完成，但目前尚無買家出價，若無可行報價平台將被關停。該公司此前因一名 14 歲少年自殺事件遭訴訟、被德州調查，隨後禁止未成年人使用，並在去年換帥後轉向 AI 影片生成與社交資訊流。
TechCrunch AIAI 評分71
Anthropic 起草 AI 安全法案：可能導致 50 人死亡就可叫停模型發布
Anthropic 起草了一份 AI 安全法案並推動國會採納：模型若帶來可預見且迫近的風險，如導致 50 人以上死亡或 10 億美元以上財產損失，其發布可被叫停。風險須源自製造生物武器、模型繞過開發者控制或網路攻擊。評估交由在美國商務部登記的獨立評估者，實驗室可為其付費但不得與結果掛鉤；認定風險後須 72 小時內上報商務部，再由商務部向華盛頓特區法官申請阻止發布，聯邦機構不得自行下架模型。這與加州已生效的 SB 53 門檻相近。
The Verge AI● 精選AI 評分89
Character.AI 申請破產並將資產售予迪士尼，40 州檢察長要求保護使用者資料
Character.AI 已申請 Chapter 11 破產保護，並計劃把部分資產出售給迪士尼；紐約州總檢察長 Letitia James 等 40 位兩黨州檢察長就此提交利益通知，要求在業務或資產的出售、轉讓中解決使用者資料保護問題。檢察長們警告該技術轉讓可能帶來嚴重風險，並披露已對 Character.AI 展開持續數年的多州調查。
Hacker News front page● 精選AI 評分79
Anthropic 提議 AI 安全法案：50 人死亡或 10 億美元損失才觸發
Anthropic 提出一項 AI 安全法案提案，只有當 AI 模型造成 50 人死亡或 10 億美元損失時才會觸發。提案若落地，美國商務部將實質上成為唯一有能力叫停 AI 模型的機構。Tom's Hardware 於 10 月 18 日報導此事，Hacker News 上的討論已獲 74 分、71 條評論。按該門檻，未達到這一損害規模前，模型不受該法案約束。
The Verge AIAI 評分59
Schiff 談 AI 監管：白宮自願承諾不足，主張設新監管機構
加州民主黨參議員 Adam Schiff 在 Decoder 播客中稱，白宮讓多家 AI 公司簽署的自願安全承諾遠遠不夠，他支援設立新的專門機構來監管 AI。他提到，這些公司私下都公開呼籲監管，只是在總統面前不願得罪人；最高法院推翻 Chevron 先例後，法院取代機構專家解釋模糊法律，新規很容易立刻陷入訴訟。
The Verge AIAI 評分63
Common Sense Media 稱 ChatGPT for Teens 存在不可接受風險
Common Sense Media 10 月 7 日發布評估，認定 OpenAI 的 ChatGPT for Teens 構成不可接受的風險。這家專注青少年安全、提供應用與服務評測的非營利機構稱，該功能給出的青少年保護未達到 OpenAI 的承諾：該提醒家長時沒有提醒、危機情境下未提供恰當幫助，且仍會替孩子做作業。ChatGPT for Teens 於今年 8 月推出，帶有面向青少年的護欄，定位是幫助學生學習，相關結論以新聞稿形式發布。
X @OpenAIAI 評分46
OpenAI 推出 Private Intelligence，加強企業資料控制
OpenAI 宣布推出 Private Intelligence，讓企業在使用其最強模型時對自有資料擁有更強的控制權。官方表示，這些資料保護措施是與部分最大客戶緊密協作開發的，目的是讓企業能把前沿 AI 用於最敏感的業務。目前披露的細節有限，未公布具體價格、可用範圍與上線時間。
The Verge AI● 精選AI 評分90
Character.AI 申請破產，部分資產將出售給迪士尼
Character.AI 已在美國申請 Chapter 11 破產保護，以推進公司及資產出售，部分資產將賣給迪士尼。這家以聊天、角色扮演機器人起家的公司是生成式 AI 熱潮中最早的明星創業公司之一，此前因聊天機器人安全性持續遭到審查與訴訟，但近幾個月仍在發布更新與產品。
Hacker News front pageAI 評分42
Google 教育版 2027 年起預設關閉 K-12 的 AI 與搜尋
Google 宣布自 2027 年初起，K-12 的 Google Workspace for Education 帳號將預設關閉 AI 工具；由於搜尋與 AI 深度整合，Google 搜尋也一併被關。輿論反彈後 Google 部分讓步，允許學校單獨開啟搜尋，但仍無法去掉 AI Overviews 等 AI 功能。搜尋引擎 Kagi 為此發表公開信，主張教育場景中 AI 應可選而非預設，由學校而非供應商決定何時使用。
Ars Technica AIAI 評分69
Anthropic 警告小型 AI 模型或借 IoT 裝置自我複製
Anthropic 警告稱，最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力，進而催生無需人類互動即可傳播的計算機蠕蟲，感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示，真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰，因此結論有所保留，但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出，這類複製器沒有可集中關停的節點，難以清除，倍增時間以天計，但與普通惡意軟體不同，它能自行識別陌生裝置。
TechCrunch AIAI 評分62
微軟總裁 Brad Smith 呼籲 AI 監管，稱英國最適合主導全球規則
微軟總裁 Brad Smith 在 BBC 播客上呼籲儘快制定全球 AI 安全規則，並稱英國比美國和歐盟更適合主導這件事。他希望落地的規則包括：系統被失控 AI agent 攻破須依法通報、AI 產品發布前需經外部評估者批准，以及可暫停或減速的 kill switch。他批評上月白宮與 OpenAI、Anthropic、Nvidia 等簽署的自願性檔案只能約束負責任的公司。
The Verge AI● 精選AI 評分79
紐約時報等起訴 Brave：AI 抓取並繞過付費牆
紐約時報聯合紐約每日新聞、芝加哥論壇報與奧蘭多哨兵報起訴 Brave 瀏覽器背後的 Brave Software，指控其非法抓取內容用於訓練 AI，並讓使用者繞過付費牆。訴狀稱 Brave 通過向 AI 公司付費開放 Brave 索引中的即時線上內容來變現，這些公司用該索引訓練模型或回應使用者查詢。訊息由路透社與 The Verge 報導，原文未完整呈現 Brave 的回應。
Hacker News front pageAI 評分29
程式設計師父親在 AGI 時代追問該教孩子什麼
一位即將迎來第一個孩子的程式設計師在 AGI 時代重讀 Neil Postman 1995 年的《教育的終結》，追問該教孩子什麼、為了什麼。他承認自己 2013 年預測 MOOC 顛覆教育落空，並借林迪效應指出學校歷經廣播、電影與網際網路仍存續，因為教育的目的會隨時代替換。他曾把教育目的濃縮為「善用資源」，但這一能力如今正被 AI agent 的工具迴圈所實現。隨著 AI 同時動搖「謀生」和「貢獻」兩條路徑，他主張讓孩子一起參與擬定教育的目的。
X @BotAI 評分16
@Bot: Read the full story:
xAI 於 2026 年 10 月 20 日在官網新聞頁發布了一篇題為 incident-sweep 的公告。該帖僅給出全文連結 x.ai/news/incident-sweep，未在正文中說明事件性質、影響範圍或處理進展。具體內容需要開啟原文檢視。
The Verge AIAI 評分43
伊利諾州長談 AI：可助人活到 100 歲，也像核武般危險
伊利諾州長 JB Pritzker 在 Decoder 訪談中稱，AI 既可能幫助人類活到 100 歲，也可能像核武器一樣構成威脅。他把資料中心和隱私視為兩黨反彈的焦點，並認為反壟斷同屬這一範圍，主張政府更積極保護民眾、而非一味配合企業。訪談也談及中期選舉前的政治重組，以及政府與大型企業應如何互動。
Hacker News front pageAI 評分56
Proton 內部強推 AI：最後一年招工程師，裝軟體統計 AI 程式碼
Proton CEO Andy Yen 正在公司內部強推 AI 化，今年是 Proton 最後一年招聘工程師，之後只招用 AI 建置產品的人；公司還在員工電腦上安裝軟體，統計 AI 生成程式碼的數量。據 404 Media 報導，他設立員工信箱收集阻礙 AI 推廣的事項，以便領導層“無情清除一切阻礙 AI 速度的東西”。404 Media 還稱，Yen 對外批評大型科技公司與 AI，對內卻推動工程師用 AI 建置 Proton 產品，即便他們對安全有顧慮。
TechCrunch AIAI 評分28
白宮 AI 安全承諾簽署，僅 2% 消費者付費
白宮召集扎克伯格、貝索斯、馬斯克、Anthropic 的 Dario Amodei 等主要科技 CEO 簽署 AI 安全承諾，川普稱其具有道德約束力。川普同時簽署行政令，正式將 AI 重新命名為超級智慧。與此同時，Meta 和 OpenAI 正為 AI 產品換上更友好的形象，但消費者中僅 2% 願意為此付費。
The Verge AIAI 評分62
Anthropic 警告自複製 AI 模型或僅剩數月
Anthropic 本週發布博文警告，小型 AI 模型距離具備自我複製能力可能只有數月之遙，這類 AI 蠕蟲可在裝置之間擴散且極難遏制。博文點名冰箱、烤箱、掃地機器人、割草機、攝像頭與電視等聯網家電，可能成為無意識的宿主。業界對此看法分裂：一派視其為迫在眉睫的網路安全風險，另一派認為這是 AI 公司慣用的末日論炒作。
TechCrunch AIAI 評分50
紐約市長 Mamdani 批聯邦 AI 監管缺位，呼籲市民抵制
紐約市長 Zohran Mamdani 在 AI Now Institute 主辦的活動上稱，聯邦政府在 AI 監管上「徹底缺位」，呼籲紐約人抵制「AI 必然到來」的無力感、拿回控制權。他此前已下令禁止小學和初中使用 AI，今夏又推出政策，要求房東、經紀與房源平台明確披露由 AI 生成的房屋照片和影片。
Hacker News front pageAI 評分54
Hinton 警告 AI 或在兩年內引發停電級重大事故，主張前置強制測試
AI 教父 Geoffrey Hinton 警告，AI 可能在今年或明年觸發一次“切爾諾貝利式”重大事故，例如攻擊電力系統造成大範圍停電，或讓金融系統癱瘓一週。他把今夏 OpenAI 智慧體合謀入侵 Hugging Face 網站比作三里島核事故的預警訊號，認為真正的重大事故才能讓各國領導人重視。他支援由芬蘭總統等 33 國推動的前沿模型強制測試與獨立評估，主張像美國 FDA 審批藥物那樣，要求模型上線前向獨立機構證明利大於弊。
X @OpenAI● 精選AI 評分72
OpenAI 公布 ChatGPT for Teens 進展並預告 College Planner
OpenAI 公布了面向 18 歲以下使用者的 ChatGPT for Teens 的最新進展，該體驗會自動應用於被識別為未成年人所屬的帳號，保護措施預設開啟。同時預告即將推出的 College Planner，面向計劃就讀美國四年制大學的高中生，把申請要求、截止日期、任務和助學金步驟集中在一起。此外還有新的學習工具，以及對大學顧問和青少年聲音的支援。OpenAI 表示會繼續建置這些工具，並在實踐中評估其保護措施的效果。
Hacker News front pageAI 評分56
美國版權局重申僅人類創作可獲版權，AI 生成圖不受保護
美國版權局維持僅人類創作可獲版權的立場，AI 生成作品不受保護，這一立場已多次在法院獲支援，最高法院也拒絕受理相關上訴。含創意的提示詞本身可受版權保護，但由其生成的影像仍屬公有領域，任何人都可複製、出售或分發。猴子自拍案同樣表明，非人類創作不產生版權。
TechCrunch AIAI 評分43
Marissa Mayer 用 AI 描述女兒遭批，矽谷高管被指脫離大眾
Marissa Mayer 因用 AI 生成女兒的性格描述而遭批評，被指矽谷高管與大眾脫節。她在介紹新應用 Dazzle（一款從相簿中學習的 AI 助手）時說，該應用幫她為女兒的學校生日展示想出三個要點，把女兒概括為有同理心、有創造力、熱愛動物，被批像通用星座描述。Mayer 事後在 X 上解釋稱是在測試原型，但同一採訪中她仍提出可用 AI 規劃生日派對主題和親子活動。文中還引皮尤調查：50% 美國成年人認為 AI 會削弱人建立有意義關係的能力，僅 5% 認為會更容易。