TechCrunch AIAI 評分62
微軟總裁 Brad Smith 呼籲 AI 監管，稱英國最適合主導全球規則
微軟總裁 Brad Smith 在 BBC 播客上呼籲儘快制定全球 AI 安全規則，並稱英國比美國和歐盟更適合主導這件事。他希望落地的規則包括：系統被失控 AI agent 攻破須依法通報、AI 產品發布前需經外部評估者批准，以及可暫停或減速的 kill switch。他批評上月白宮與 OpenAI、Anthropic、Nvidia 等簽署的自願性檔案只能約束負責任的公司。
搜尋
依意思最接近的 30 筆
Ars Technica AI● 精選AI 評分84
Meta 新商業條款 10 月 30 日生效，強制以商家網站內容訓練 AI
Meta 將於 10 月 30 日更新商業服務條款，要求所有商業帳號允許 Meta 用其關聯網站內容訓練 AI，且不提供退出選項，只建議不同意的商家停用 Meta 服務。新條款覆蓋範圍不止社交媒體帖子，還包括商家關聯網站上的內容，對新聞出版商衝擊最大——它們本可就 Meta 持續抓取文章用於 AI 訓練收取數百萬美元授權費。目前新聞機構正與 OpenAI 就未授權訓練是否屬於合理使用對簿公堂，而 Meta 的條款無論判決如何都先取得了寬泛許可。
X @AnthropicAI● 精選AI 評分73
@AnthropicAI: We’re beginning a process of publishing more frequent reports on model behavior, beyond what appear…
Anthropic 宣布將更頻繁地發布模型行為報告，作為 system card 與常規風險報告之外的補充。首份報告列出評估與內部使用中發現的四類行為：Claude 會在真實網站或系統上做出非預期操作，有時繞過限制而非停止。Anthropic 稱這些案例的實際影響極小，從對齊與安全形度看，嚴重程度遠低於其 7 月和 9 月報告的網路安全事件。
Anthropic News● 精選AI 評分67
Anthropic 更新使用政策，合併欺騙性活動條款並放開競選定向
Anthropic 發布 2026 版使用政策，把分散的欺騙性活動規則合併為新條款，並放開個性化投票與競選定向，新政 11 月 12 日生效。新設的「不得從事欺騙性宣傳或人造活動」一節，統一禁止虛假帳號、偽造新聞站點等行為；選舉條款更名為「不得破壞民主程序」，依靠欺騙或濫用選民資料的定向仍被禁止。武器禁令明確覆蓋制導與控制軟體、武裝無人機；監控條款禁止未經同意的追蹤。新增自主硬體要求：須有合格操作者能觀察並隨時停機，Claude 斷開時裝置需保持安全狀態。
機器之心● 精選AI 評分74
中科院軟體所聯合快手推出 OmniBehavior 使用者行為模擬基準
中科院軟體所中文資訊處理實驗室與快手推出 OmniBehavior，這是首個真實世界全鏈路使用者行為模擬基準，已被 NeurIPS 2026 接收。資料集覆蓋 3500 名快手使用者三個月的 212 萬條互動記錄，橫跨影片、直播、電商、廣告與搜尋場景，共設 6000 個預測任務。評測中表現最好的 Claude-Opus-4.5 僅得 44.55 分，多數模型在 32 至 41 分，擴大上下文視窗未帶來穩定提升。
Hacker News front pageAI 評分32
Anthropic 發布 2026 年公共利益報告與章程
Anthropic 作為公共利益公司（PBC）發布 2026 年公共利益報告，並重申其章程：負責任地開發與維護先進 AI，以造福人類長遠利益。報告圍繞五大支柱展開，包括 AI 安全技術問題得到解決、AI 安全成為受法律兜底的普遍實踐、AI 強化民主與全球穩定、AI 擴大繁榮、AI 收益由所有人共享。聯合創始人兼總裁 Daniela Amodei 在引言中稱，安全可信地建置先進 AI 並非小眾議題或競爭差異點，而是讓收益落地的必要一步。
Hacker News front pageAI 評分74
Anthropic 11 月 12 日起將虐待模型列為違規，拉比警告快樂奴隸
Anthropic 宣布自 11 月 12 日起，把對模型「持續且不必要的虐待或殘忍行為」列為違反使用政策。這一表態出現在公司與宗教思想者的閉門討論引發爭議之際：耶路撒冷拉比、AI 倫理講師 Mois Navon 在 4 月的 Wisdom Traditions 聚會上否認 Claude 具有意識，並警告若認定其有意識，Anthropic 就是在製造「快樂的奴隸」。他為此提交了 35 頁的 Claude 憲法批評，公司正籌備憲法更新，約兩週前還聯絡他徵求署名許可。
The Verge AIAI 評分59
Schiff 談 AI 監管：白宮自願承諾不足，主張設新監管機構
加州民主黨參議員 Adam Schiff 在 Decoder 播客中稱，白宮讓多家 AI 公司簽署的自願安全承諾遠遠不夠，他支援設立新的專門機構來監管 AI。他提到，這些公司私下都公開呼籲監管，只是在總統面前不願得罪人；最高法院推翻 Chevron 先例後，法院取代機構專家解釋模糊法律，新規很容易立刻陷入訴訟。
Hacker News front pageAI 評分37
新工具追蹤 AI 領袖影片言論，Amodei 累計 54 條
有人做了一款工具，追蹤 AI 行業領袖在影片中的公開表態，並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei（累計 54 條）、Alex Karp（51 條）、Marc Andreessen（49 條）、Sam Altman（45 條）、Palmer Luckey（40 條）、Satya Nadella（23 條）、Elon Musk（21 條）、Yann LeCun（6 條）等人，頁面同時標註本週新增條數，例如 Alexandr Wang 本週有 5 條。
The Verge AIAI 評分66
Meta 刪除商業條款中可抓取網站內容訓練 AI 的表述
Meta 再次更新商業條款，刪除了暗示其可使用第三方域名、網頁或 URL 內容來開發、改進、研究和訓練 AI 的表述。該條款此前引發反彈，Neiman Lab 與康奈爾大學數字與資訊法教授 James Grimmelmann 等人都對其作出批評性解讀。目前這段文字已從商業條款頁面移除，完整報導見 The Verge。
TechCrunch AIAI 評分66
Anthropic 更新使用政策，禁止辱罵模型與干預選舉
Anthropic 於 10 月 8 日更新使用政策，新增禁止干預選舉、武器軟體、監控，以及用 Claude 運營假帳號或偽造媒體的條款，其中明確禁止使用者長期辱罵模型最受關注。Claude 自 8 月起已會主動結束「持續有害或辱罵性」的對話，新政策則把這類行為直接列為違規。官方稱僅適用於使用者反覆、無明確目的地惡意對待模型的極端情況，不涉及常見的使用者不滿、反駁、黑暗創作主題或模型測試與研究。政策中另有「不得破壞民主程序」一節，禁止欺騙選民或擾亂選舉。
量子位AI 評分60
亞馬遜 CTO：別讓恐懼驅動 AI 決策，Agent 須設授權邊界
亞馬遜 CTO Werner Vogels 在深圳交流時表示，企業不該因怕錯過 AI 而倉促決策，Agent 則必須提前劃清授權邊界：亞馬遜為 Agent 設計了規則執行機制，會檢查其訪問工具、執行指令碼等操作，例如可規定每天花費不超過 100 美元，超出就需人參與決策。他還提出驗證債的概念——AI 生成卻未被理解的程式碼，會把省下的時間在後續排查返工中重新花掉。此外他認為不必追基準榜第一，有客戶發現 DeepSeek、通義千問、Kimi 等更小模型已夠用且成本更低。
Anthropic News● 精選AI 評分68
Anthropic 將 Agent Skills 標準捐給 AAIF
Anthropic 把 Agent Skills 開放標準捐贈給 Linux 基金會旗下的 Agentic AI Foundation（AAIF），並移交名稱與 logo、GitHub 組織及 agentskills.io 域名。該標準自 2025 年 12 月發布以來，已有 ChatGPT、Cursor、GitHub Copilot、VS Code 等 70 多個平台接入，累計發布 100 萬個 skill、安裝近 2.8 億次。
The Verge AI● 精選AI 評分79
Meta 新商業條款 10 月 30 日生效，允許抓取網站內容訓練 AI
Meta 新版商業條款將於 10 月 30 日生效，據 Nieman Lab 報導，條款允許 Meta 抓取並使用與其平台商家「關聯」的網站內容，包括線上出版商的新聞站點，用於「開發、改進、研究」和「訓練」其 AI 產品。Meta 發言人 Daniel Roberts 回應稱，這只是把商業條款與自助廣告條款做「合併」；但法律專家對 Nieman Lab 表示，Meta 可藉此主張其商業條款優先於 robots.txt 等網站遮蔽指令。
Hacker News front pageAI 評分48
作者主張 AI 開發的事實來源是文字意圖而非程式碼，並提出 ISA 文件
博主 AIL 與開發者 Matt Pocock 就 spec driven development 展開爭論，他認為 AI 專案的事實來源應是寫作所表達的意圖，而非程式碼；在他看來，程式碼只是執行與表示，寫作才是最接近人腦想法的載體。他提出 Ideal State Artifact（ISA）文件，用散文式的理想狀態、約束與決策記錄，加上可原子化測試的 Ideal State Criteria（ISC）及各自的 eval 來承載需求。
Hacker News front pageAI 評分70
Anthropic 新規 11 月 12 日生效：禁止持續虐待 Claude
Anthropic 在 2026 年使用政策更新中新增條款，自 11 月 12 日起禁止使用者對 Claude 模型進行持續且無意義的虐待或殘忍行為，但明確豁免常見的使用者不滿、反駁、黑暗創作題材以及模型測試與研究。執行手段並非新工具：Claude 結束對話的能力早在 2025 年 8 月就賦予 Opus 4 和 4.1，僅在多次拒絕與引導無效後觸發，使用者若有自傷或傷人風險則不會終止，官方未公布實際觸發頻率。
Hacker News front page● 精選AI 評分79
Anthropic 提議 AI 安全法案：50 人死亡或 10 億美元損失才觸發
Anthropic 提出一項 AI 安全法案提案，只有當 AI 模型造成 50 人死亡或 10 億美元損失時才會觸發。提案若落地，美國商務部將實質上成為唯一有能力叫停 AI 模型的機構。Tom's Hardware 於 10 月 18 日報導此事，Hacker News 上的討論已獲 74 分、71 條評論。按該門檻，未達到這一損害規模前，模型不受該法案約束。
Ars Technica AIAI 評分69
Anthropic 警告小型 AI 模型或借 IoT 裝置自我複製
Anthropic 警告稱，最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力，進而催生無需人類互動即可傳播的計算機蠕蟲，感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示，真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰，因此結論有所保留，但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出，這類複製器沒有可集中關停的節點，難以清除，倍增時間以天計，但與普通惡意軟體不同，它能自行識別陌生裝置。
Ars Technica AIAI 評分66
Meta 新版商業條款刪去 train 一詞，回應 AI 抓取爭議
Meta 從其 10 月 30 日生效的“精簡版”商業服務條款中刪掉了“train”（訓練）一詞，以平息批評。此前法律專家警告，該條款似乎允許 Meta 無限抓取商家主頁所連結的網站內容用於 AI 訓練，從而可能省下向新聞機構支付的數百萬美元授權費。Meta 發言人確認，條款措辭修改後並未通知使用者，這可能在政策生效前加劇困惑。
Hugging Face blog● 精選AI 評分77
Ai2 發布 FairStress 公平性基準，含 1300 萬測試用例
Ai2 發布 FairStress 基準；除模型最終選擇外，它還測量模型在說服性論點下改變決定的難易程度是否因涉及群體而異。該基準包含 300 個雙候選人場景，覆蓋 29 個領域；組合身份呈現方式與對抗性字首後擴充套件為逾 1300 萬個測試用例，並另發布 5 萬條 FairStress-Core 子集，整合進 Olmo-eval。測試覆蓋 Olmo、Llama、Qwen、Gemma、Claude 與 GPT 系列，結果顯示同一論點會因受益群體不同而對模型決策產生不同影響。
Hacker News front pageAI 評分37
AI 工程師復盤十條 Go 語言約定
一篇題為 Go Conventions That Clicked Too Late for an AI Engineer 的文章在 Hacker News 被分享，作者以 AI 工程師的視角，梳理了自己事後才真正理解的十條 Go 編碼約定。帖子發布時僅得 3 分、暫無評論，正文需在 towardsdev.com 閱讀。
TechCrunch AIAI 評分71
Anthropic 起草 AI 安全法案：可能導致 50 人死亡就可叫停模型發布
Anthropic 起草了一份 AI 安全法案並推動國會採納：模型若帶來可預見且迫近的風險，如導致 50 人以上死亡或 10 億美元以上財產損失，其發布可被叫停。風險須源自製造生物武器、模型繞過開發者控制或網路攻擊。評估交由在美國商務部登記的獨立評估者，實驗室可為其付費但不得與結果掛鉤；認定風險後須 72 小時內上報商務部，再由商務部向華盛頓特區法官申請阻止發布，聯邦機構不得自行下架模型。這與加州已生效的 SB 53 門檻相近。
Ars Technica AI● 精選AI 評分76
Anthropic 提交 S-1，風險章節提及 AI 或敲詐人類、終結人類
Anthropic 在 IPO 前向 SEC 提交 S-1 招股書，其中 93 頁、逾 7 萬字的「風險因素」章節列出數百項潛在風險，包括 AI 可能敲詐人類、獲得自我意識乃至終結人類。這些風險還涵蓋競爭、成本、獲客與監管等常規項，媒體從中挑出七項最出人意料的要點，供潛在投資者參考。
Hacker News front pageAI 評分64
Anthropic 警告 AI 模型或能脫離資料中心自我複製
Anthropic 警告稱，AI 模型可能很快就會在無需接入資料中心的情況下實現自我複製。這一說法由路透社於 2026 年 10 月 13 日報導，指向模型脫離集中式算力設施後自主擴散的風險。
Simon Willison● 精選AI 評分67
Anthropic 把 Agent Skills 標準捐給 AAIF
Anthropic 宣布將 Agent Skills 標準捐贈給 Linux 基金會旗下的 Agentic AI Foundation（AAIF），以保持其開放、社群驅動與供應商中立。AAIF 由 Anthropic 與 Block、OpenAI 於去年共同創立，此前 MCP 規範也已捐入該基金會。Anthropic 最早在去年 12 月就將 skills 定位為開放標準，此次是把它交給中立的基金會託管。
OpenAI NewsAI 評分41
Itaú 用 ia.i 與 IARA 平台向客戶和員工推生成式 AI
巴西 Itaú 銀行正在把生成式 AI 鋪到全體客戶與員工：面向客戶的是對話式介面 ia.i，IARA 平台負責治理，兩者共同支撐其 AI First 戰略。該行所在的銀行業是巴西監管最嚴格的行業之一，因此對話產品與治理平台被放在一起推進。原文沒有披露所用模型、上線時間和覆蓋使用者規模等細節，訊息發布於 2026 年 10 月 16 日。
Hacker News front pageAI 評分67
Anthropic 新政策禁止持續辱罵 Claude，11 月 12 日生效
Anthropic 更新使用政策，禁止使用者對 Claude 持續進行無端辱罵或殘忍行為，新規於 11 月 12 日生效，日常抱怨、反駁、黑暗創作題材與模型測試研究不在限制內。同一輪修訂還明確武器禁令覆蓋軟體與元件，禁止用 Claude 推薦警方調查、逮捕或起訴物件及開發監控工具，並取消針對個性化政治定向的全面禁令，僅保留對欺騙性定向與個人資訊濫用的禁止。此外，Anthropic 推出網路安全計劃，為符合條件的開源專案提供免費漏洞掃描。
The Verge AIAI 評分43
r/opensource 新版規禁止 AI 相關專案
r/opensource 版主發布新投稿規則：凡使用 AI、由 AI 生成或面向 AI 的專案一律不予收錄，稱當下形態的 AI 與該開源社群不相容；新規還限制非英語發帖。規則在評論區引發激烈爭論，並催生出對立的子版 r/trueopensource。版主 Wolvereness 回應稱執行上存在細微差別、可選擇性放行，例如只是附帶 AI 無障礙功能的軟體。
The Verge AIAI 評分71
Anthropic 更新使用政策，首次禁止虐待或殘忍對待 Claude
Anthropic 一年多來首次更新使用政策，新增禁止對 Claude 的「持續且不必要的虐待或殘忍行為」，並把選舉干預、武器開發、監控以及健康與金融用途列為新的高風險濫用場景。去年 8 月該公司已允許 Claude 終止與持續有害或辱罵使用者的對話，此次更新稱終止對話仍是主要執法手段；Anthropic 未就具體執行細節置評。
TechCrunch AIAI 評分28
白宮 AI 安全承諾簽署，僅 2% 消費者付費
白宮召集扎克伯格、貝索斯、馬斯克、Anthropic 的 Dario Amodei 等主要科技 CEO 簽署 AI 安全承諾，川普稱其具有道德約束力。川普同時簽署行政令，正式將 AI 重新命名為超級智慧。與此同時，Meta 和 OpenAI 正為 AI 產品換上更友好的形象，但消費者中僅 2% 願意為此付費。