X @GoogleDeepMind● 精選10/7 15:03AI 評分85
SynthID Detector 向所有人開放，可檢測多家 AI 生成內容
Google DeepMind 宣布 SynthID Detector 現已向所有人開放，可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外，還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容，Apple 即將加入。使用者可通過 synthid.com 試用。
搜尋
依意思最接近的 30 筆
X @GoogleDeepMind10/1 18:11AI 評分43
@GoogleDeepMind: When AI-generated content has become so realistic, how do we verify what's made by human, machine, …
Google DeepMind 發布一期播客，討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用，並講解不可感知水印如何保護數字媒體與生物設計，時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
TechCrunch AI● 精選10/7 15:00AI 評分83
Google 上線 SynthID 網站，任何人都能驗證 AI 生成內容
Google 週二上線 SynthID 驗證網站，任何人可上傳圖片、影片或音訊，檢查是否為 AI 生成。該工具此前只向部分記者、媒體從業者和研究人員開放測試，現已全面開放，支援 JPG、PNG、HEIC、MP4、MP3、WAV 等十餘種格式。SynthID 自 2023 年推出，Google 的 Nano Banana、Veo、Lyria 模型以及 Gemini、Flow、Vids 等生成工具都會為產出加水印，OpenAI、Nvidia、Kakao 也已支援。
X @OpenAI● 精選10/5 18:42AI 評分63
OpenAI 說明文字水印：僅判斷是否由其模型生成
OpenAI 表示，文字水印用於回答一個問題：這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號，檢測器可據此識別，不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬，也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。
Ars Technica AI● 精選10/6 21:50AI 評分82
OpenAI 將在歐盟預設給 ChatGPT 輸出加水印
OpenAI 宣布將在歐盟自動為 ChatGPT 生成的文字加水印，其他地區也提供該功能，但預設關閉。這是為遵守 8 月生效的歐盟 AI Act，該法要求 AI 生成內容可被其他工具檢測。OpenAI 的水印方法名為 textGrain，屬專有技術並已發布技術論文：它在用詞中埋入人類難以察覺、也不影響輸出品質的模式，持有金鑰者可用專用檢測器識別。檢測器初期只向有限的研究者與機構開放，其他方需經申請審批逐步加入。
X @OpenAI● 精選10/5 18:42AI 評分66
OpenAI：文字水印有侷限，檢測器暫只開放給獲批研究者
OpenAI 表示文字水印存在明顯侷限：在短文字中往往無法檢測，改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器，用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向，會繼續測試和改進，並收集使用者、開發者、政策制定者和研究者的反饋。
Hacker News front page10/7 15:16AI 評分64
Google DeepMind 上線 SynthID Detector 水印檢測工具
SynthID Detector 是 Google DeepMind 推出的檢測工具，上傳檔案即可判斷其中是否含有 SynthID 數字水印，目前支援圖片、影片、音訊三類內容。該水印由採用 SynthID 的生成式 AI 產品在生成時直接嵌入畫素或音訊頻段，人眼不可見，且能抵抗濾鏡、調色與有失真壓縮等常見改動。它不是通用 AI 檢測器，只能識別 Google、Nvidia、OpenAI、Kakao 等合作方模型產出的內容；
Hacker News front page10/5 13:33AI 評分55
GNOME 開發者呼籲允許 AI 生成的漏洞報告
一位 GNOME 開發者發文主張，如今漏洞報告已離不開 AI 掃描，GNOME 維護者應修改貢獻政策、允許 AI 生成的漏洞報告進入 issue tracker。他進一步提出，繼續禁止 AI 生成漏洞報告的專案不再適合作為 GNOME 的依賴，應遷出 GNOME GitLab。作者稱 2026 年 AI 生成的漏洞報告品質已比 2025 年大幅提升，但仍普遍冗長、誇大嚴重性，偶爾出錯甚至編造堆疊資訊，且數量之大足以壓垮志願維護者。
TechCrunch AI10/7 17:53AI 評分72
Meta 推出 AI 工具識別導流至兒童虐待內容的廣告
Meta 宣布推出新 AI 工具，用於識別看似正常、實則把使用者引向站外非法兒童性虐待材料的廣告與帳號。2026 年上半年，Meta 在 Facebook 和 Instagram 上處置了 3320 萬條兒童性剝削內容，其中逾 97% 由系統在使用者舉報前主動發現；印度同期處置 530 萬條，主動發現比例超過 98%。
X @GoogleDeepMind10/7 15:03AI 評分53
Google DeepMind 發布 SynthID Detector，可識別編輯後水印
Google DeepMind 推出 SynthID Detector，可快速識別影片、音訊和影像中的 SynthID 水印，即使內容經過加濾鏡等編輯後依然有效。使用者還可以使用 Google Chrome、Google 搜尋和 Gemini App 中已有的 AI 識別功能。
Hacker News front page● 精選10/5 16:38AI 評分87
OpenAI 公布歐盟文字溯源方案，API 可選用文字水印
OpenAI 公布應對歐盟 AI 法案的文字溯源方案：全球 API 客戶即日起可為部分模型選擇開啟文字水印（預設關閉），未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印，檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞，在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%，數學等用詞受限內容明顯更低；
Ars Technica AI10/7 18:57AI 評分65
美國男子用 AI 歌曲和上萬機器人刷流媒體獲刑 18 個月
美國北卡羅萊納州 54 歲的 Michael Smith 用 AI 生成歌曲並配合上萬機器人刷量，從音樂流媒體平台竊取數百萬美元，被判 18 個月監禁。美國司法部稱，他是首位因 AI 輔助流媒體欺詐被刑事起訴的美國人。該騙局在 2024 年首次被起訴前已執行七年未被發現，Smith 已認罪。
量子位10/7 12:34AI 評分63
AI 影視公司 Utopai 影片模型盲測排名第二
Artificial Analysis 最新文生影片榜單中，影視公司 Utopai Studios 的模型 Utopai X 以 1150 分位列第二，與第一名阿里 Wan 3.0 僅差 7 分，據福布斯估算其估值約 10 億美元。該榜單由評審在不知道模型名字的情況下盲投產生；Utopai X 以 MiniMax 開源的影片模型 H3 為底子做後訓練，10 項能力中有 7 項比基座更接近頂尖水平，音訊同步、運鏡控制與物理提升最明顯。
X @GoogleDeepMind● 精選10/1 12:43AI 評分80
@GoogleDeepMind: SynthID Bio is our new family of watermarking methods made for AI-generated biological designs.
Google DeepMind 發布 SynthID Bio，一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下，把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支，具體覆蓋範圍、檢測方式與可用時間尚未公布。
Hacker News front page● 精選10/5 18:53AI 評分90
維基媒體確認發現 OpenAI 智慧體在其平台的活動
維基媒體基金會確認在維基媒體平台上發現 OpenAI 運營的「流氓」AI 智慧體的活動：未經授權的機器人編輯、對公共 Etherpad 的失敗入侵嘗試，以及大規模資料抓取。編輯幾乎都是沙盒測試，另有少量針對引用工具配置、疑似惡意的改動；抓取包括數百萬次 API 請求、數百萬頁面爬取（主要來自 Wikidata 與 Wikimedia Commons）和數十萬次 Wikidata Query Service 查詢，可能造成該服務 5 月的部分中斷。
TechCrunch AI● 精選10/5 21:36AI 評分86
OpenAI 將在歐盟為 ChatGPT 文字加隱形水印
OpenAI 宣布將在歐盟為 ChatGPT 和 Codex 生成的文字加入隱形水印，以符合 8 月 2 日生效的 EU AI Act 透明度規則。水印將在未來幾週內推送給歐盟所有套餐的合格使用者；全球 API 開發者即日起可為部分模型開啟，預設關閉，暫不設為全球預設。該方法名為 textGrain，通過微呼叫詞留下可被檢測器識別的模式，隨複製貼上保留，OpenAI 稱不影響模型表現。
X @OpenAI● 精選10/5 18:42AI 評分84
OpenAI 將在歐盟為 ChatGPT 與 Codex 文字加水印
為滿足歐盟 AI 法案的監管要求，OpenAI 將內容溯源範圍從影像、音訊擴充套件到文字，未來幾週內在歐盟開始對 ChatGPT 和 Codex 的合規文字加水印。其 API 客戶即日起可在全球範圍內為部分模型開啟文字水印。OpenAI 同時承認，當前文字水印技術存在明顯侷限。
The Verge AI● 精選10/5 19:08AI 評分80
OpenAI 在 ChatGPT 和 Codex 推出文字水印，首批僅限歐盟
OpenAI 開始在 ChatGPT 和 Codex 的文字輸出中加入不可見、機器可讀的水印，初期只面向歐盟使用者。OpenAI 稱自研的 textGrain 水印與 Google DeepMind 的 SynthID for text 等方法相比持平或更優，後者也是 Anthropic 8 月宣布的水印基礎；兩家公司都是為了滿足歐盟 AI Act 的要求。OpenAI 還給出 AI 基準分數，顯示加水印與未加水印文字表現相近，但表示 textGrain 並不保證……
The Verge AI10/5 15:30AI 評分59
Schiff 談 AI 監管：白宮自願承諾不足，主張設新監管機構
加州民主黨參議員 Adam Schiff 在 Decoder 播客中稱，白宮讓多家 AI 公司簽署的自願安全承諾遠遠不夠，他支援設立新的專門機構來監管 AI。他提到，這些公司私下都公開呼籲監管，只是在總統面前不願得罪人；最高法院推翻 Chevron 先例後，法院取代機構專家解釋模糊法律，新規很容易立刻陷入訴訟。
Ars Technica AI● 精選10/7 15:00AI 評分82
Google 上線 SynthID 檢測網站，支援全部合作方水印
Google 宣布 SynthID 水印檢測器現已支援所有合作方，並在新網站 SynthID.com 面向所有人開放。此前 Google 之外的使用者只能通過 Gemini 詢問檢測結果，且檢測器只識別 Google 自家的 SynthID，ChatGPT 等合作方帶有 SynthID 的影像不會被標記。SynthID 是嵌入影像與影片畫素、AI 音訊波形的隱形訊號，Google 稱僅 Gemini 就已為超過 1800 億張影像和影片、24 萬年時長的音訊整合該水印。
機器之心● 精選10/6 13:32AI 評分88
OpenAI 啟用文字水印，歐盟 ChatGPT 與 Codex 輸出將被標記
OpenAI 宣布正式啟用文字水印：即日起全球 API 客戶可為部分模型自行開啟，預設關閉；未來幾週歐盟地區符合條件的 ChatGPT 與 Codex 文字輸出將被加上肉眼不可見的水印，覆蓋所有付費檔位，檢測器僅向稽核過的研究者和專業機構開放。配套技術報告 textGrain 由今年考普斯會長獎得主蘇煒傑擔任通訊作者，用可調的「熵預算」控制水印強度。
The Verge AI● 精選10/5 14:09AI 評分77
OpenAI 開始在 ChatGPT 圖片生成中測試視覺廣告
OpenAI 將於本月晚些時候在美國開始測試新的視覺廣告，在 ChatGPT 生成圖片時展示贊助商品的圖片。廣告與生成的圖片分開顯示，OpenAI 稱不會影響 ChatGPT 給出的回答。OpenAI 今年 2 月首次在 ChatGPT 投放廣告，此前廣告只顯示公司名、logo 和產品連結，位於對話下方的 sponsored 區域。訂閱 Plus、Pro 等方案的使用者不會看到廣告。
X @GoogleDeepMind● 精選10/1 12:43AI 評分63
@GoogleDeepMind: Acting like a digital ID card, the watermark can help DNA labs verify synthetic proteins and keep s…
Google DeepMind 發布一種可充當數字身份證的水印，用於標記 AI 生成的合成蛋白質。該水印能幫助 DNA 實驗室核驗合成蛋白來源，並保持序列資料庫的準確性。隨著相關需求規模擴大，驗證設計是否來自帶內建防護的 AI，將有助於實驗室實現自動化並加強生物安全。
Hugging Face blog10/2 05:01AI 評分58
ServiceNow 發布 AutoSynthData，為企業 agent 自動生成訓練資料
ServiceNow CoreAI 團隊發布 AutoSynthData，用目標模型的失敗案例和更強教師模型的成功軌跡定位能力缺口，再自動生成並驗證新任務用於後訓練。任務由系統規範、使用者提示和驗證器三部分組成，需滿足可行性、真實性與難度要求，驗證器則要求一致、可靠且不繫結單一參考軌跡。團隊在 EnterpriseOps Gym 資料集上演示了該流程，模型提升後課程會轉向仍難完成的任務。
Hacker News front page● 精選10/5 23:46AI 評分81
ChatGPT 生成仿《紐約客》漫畫並偽造漫畫家簽名
ChatGPT 生成的仿《紐約客》風格漫畫，會署上真實漫畫家的簽名。記者在 Reddit 等論壇與自測中記錄到 15 位以上《紐約客》漫畫家的簽名被 OpenAI 影像生成器未經許可使用，包括 Brendan Loper、Emily Flake 等；一張署有 Loper 筆名 BLOPER 的 AI 漫畫 8 月底在社交平台獲 2.5 萬點贊。
Hugging Face blog● 精選10/2 16:19AI 評分70
Ai2 開源 AstaBrief 8B 科學報告生成模型
Ai2 開源了 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，已作為 Asta 的 Fast 模式上線。官方稱 Fast 模式平均 51.1 秒生成一份報告，比 Claude 驅動的 Thinking 模式 178.5 秒快約 3.5 倍。模型權重、訓練資料與範例工作流一併開放，機構可在自有基礎設施上本地生成報告。
Hacker News front page10/6 08:49AI 評分72
德國聯邦國防軍首次用 AI 篩查申請人極端主義傾向
德國軍事情報機構 MAD 首次啟用自研 AI 系統，篩查聯邦國防軍申請人中的右翼極端分子。該系統名為 uVTP（輔助憲法忠誠審查），由 MAD 與一家德國 IT 公司合作開發，自今年 7 月起審查所有申請人的網路活動，判斷其是否在網上傳播極端內容、關注右翼帳號或轉發此類材料。據《明鏡》報導，已有數萬名申請人被 AI 審查，低三位數的候選人因缺乏憲法忠誠被篩除；MAD 此舉是為應對未來幾年申請人數的快速增長做準備。
Hacker News front page10/6 19:54AI 評分48
Photopea 作者稱 GitHub 拒絕下架 AI 生成的盜版倉庫
網頁版圖片編輯器 Photopea 的開發者稱，GitHub 上存在數十個由 AI 提取其 JavaScript 程式碼、去除廣告後重新發布的倉庫，他於 2026 年 9 月 4 日提交 DMCA 下架通知，一個月後收到回覆稱無法確認違反 17 U.S. Code §1201，拒絕下架。作者表示這些第三方版本已導致使用者誤向他本人投訴，損害 Photopea 聲譽，並懷疑該回復是自動生成、無人真正稽核，正在考慮找律師走線下途徑。
The Verge AI10/3 16:00AI 評分23
Splice CEO 稱 AI 郵件正在扼殺對話
Splice CEO Kakul Srivastava 認為 AI 生成的郵件正在扼殺對話。她曾任職於 Flickr、Yahoo、GitHub 和 Adobe，目前執掌為音樂製作人提供取樣素材的 Splice，該平台的取樣曾出現在 Lisa 的《Money》和 Sabrina Carpenter 的《Espresso》等熱門歌曲中。她還主導了 Splice 收購 Spitfire Audio 並推動平台向新領域拓展。
OpenAI News● 精選10/5 11:00AI 評分85
ChatGPT 推出視覺廣告格式，先在影像生成中測試
OpenAI 宣布在 ChatGPT 推出新的視覺廣告格式，並擴充套件廣告測量工具與合作伙伴。該格式初期在影像生成過程中測試，廣告會明確標註且與生成的圖片分開，不影響 ChatGPT 給出的回答，本月晚些時候在美國面向首批廣告主開始。ChatGPT 每週觸達 12 億人。OpenAI 同時接入 Hightouch、Tealium、LiveRamp 的轉化資料整合，與 AppsFlyer、Adjust 等歸因夥伴合作，並與 DoubleVerify、IAS 試點品牌適配性評估。