OpenAI:文字水印有侷限,檢測器暫只開放給獲批研究者
OpenAI 表示文字水印存在明顯侷限:在短文字中往往無法檢測,改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器,用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向,會繼續測試和改進,並收集使用者、開發者、政策制定者和研究者的反饋。
依意思最接近的 27 筆
OpenAI 表示文字水印存在明顯侷限:在短文字中往往無法檢測,改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器,用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向,會繼續測試和改進,並收集使用者、開發者、政策制定者和研究者的反饋。
OpenAI 開始在 ChatGPT 和 Codex 的文字輸出中加入不可見、機器可讀的水印,初期只面向歐盟使用者。OpenAI 稱自研的 textGrain 水印與 Google DeepMind 的 SynthID for text 等方法相比持平或更優,後者也是 Anthropic 8 月宣布的水印基礎;兩家公司都是為了滿足歐盟 AI Act 的要求。OpenAI 還給出 AI 基準分數,顯示加水印與未加水印文字表現相近,但表示 textGrain 並不保證……
LessWrong 測試讓 Claude Fable 5.1 在最大推理下為 50 條短訊息生成藏密 SVG,再由新會話僅憑渲染圖判斷並解碼。Fable 最常用元素高度編碼(33/50),把樓高或星高按字母序對映,另出現傾斜、填充色等共五類方案。部分影像能被新會話成功還原,例如星星高度可讀出英文句子;UTF-8 填充色範例未被解出,文中還與 GPT-6 Astra 做了簡要對比。
OpenAI 宣布將在歐盟為 ChatGPT 和 Codex 生成的文字加入隱形水印,以符合 8 月 2 日生效的 EU AI Act 透明度規則。水印將在未來幾週內推送給歐盟所有套餐的合格使用者;全球 API 開發者即日起可為部分模型開啟,預設關閉,暫不設為全球預設。該方法名為 textGrain,通過微呼叫詞留下可被檢測器識別的模式,隨複製貼上保留,OpenAI 稱不影響模型表現。
Google DeepMind 宣布,其 AI 內容水印技術 SynthID 入選《時代》雜誌 2026 年度最佳發明。官方表示,SynthID 已為超過 1800 億張圖片和影片加上水印,用於幫助人們區分 AI 生成內容與其它媒體,推文中附有詳情連結。
阿里發布 Qwen-Image-2.1-Turbo,這是基於 Qwen-Image-2.1 的加速 checkpoint,只需 8 步去噪即可生成和編輯影像,權重已在 ModelScope 與 Hugging Face 開放。它沿用同一 7B 視覺生成架構,官方稱步數減少不犧牲品質,仍可從文字生成 2K 影像,並支援用自然語言繼續編輯,例如新增配飾或更換場景。Diffusers 中載入 QwenImage21Pipeline 即可使用推薦的 8 步取樣;
Google DeepMind 推出 SynthID Detector,可快速識別影片、音訊和影像中的 SynthID 水印,即使內容經過加濾鏡等編輯後依然有效。使用者還可以使用 Google Chrome、Google 搜尋和 Gemini App 中已有的 AI 識別功能。
安全研究者指出,Google 與 OpenAI 最新的影像生成模型能力提升的同時,攔截色情輸出的表現反而可能變差。Google 今年 7 月對美國、澳大利亞和英國網民的聯合研究發現,未經同意的色情內容多經私信、文字或私人云盤傳播,不易被檢測或舉報。Google 研究者據此認為,最關鍵的干預點仍在源頭,即用於生成虛假性影像的 AI 工具。
OpenAI 宣布將在歐盟自動為 ChatGPT 生成的文字加水印,其他地區也提供該功能,但預設關閉。這是為遵守 8 月生效的歐盟 AI Act,該法要求 AI 生成內容可被其他工具檢測。OpenAI 的水印方法名為 textGrain,屬專有技術並已發布技術論文:它在用詞中埋入人類難以察覺、也不影響輸出品質的模式,持有金鑰者可用專用檢測器識別。檢測器初期只向有限的研究者與機構開放,其他方需經申請審批逐步加入。
OpenAI 宣布正式啟用文字水印:即日起全球 API 客戶可為部分模型自行開啟,預設關閉;未來幾週歐盟地區符合條件的 ChatGPT 與 Codex 文字輸出將被加上肉眼不可見的水印,覆蓋所有付費檔位,檢測器僅向稽核過的研究者和專業機構開放。配套技術報告 textGrain 由今年考普斯會長獎得主蘇煒傑擔任通訊作者,用可調的「熵預算」控制水印強度。
OpenAI 公布應對歐盟 AI 法案的文字溯源方案:全球 API 客戶即日起可為部分模型選擇開啟文字水印(預設關閉),未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印,檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞,在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%,數學等用詞受限內容明顯更低;
為滿足歐盟 AI 法案的監管要求,OpenAI 將內容溯源範圍從影像、音訊擴充套件到文字,未來幾週內在歐盟開始對 ChatGPT 和 Codex 的合規文字加水印。其 API 客戶即日起可在全球範圍內為部分模型開啟文字水印。OpenAI 同時承認,當前文字水印技術存在明顯侷限。
Google DeepMind 發布 SynthID Bio,一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下,把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支,具體覆蓋範圍、檢測方式與可用時間尚未公布。
Google DeepMind 發布一種可充當數字身份證的水印,用於標記 AI 生成的合成蛋白質。該水印能幫助 DNA 實驗室核驗合成蛋白來源,並保持序列資料庫的準確性。隨著相關需求規模擴大,驗證設計是否來自帶內建防護的 AI,將有助於實驗室實現自動化並加強生物安全。
Black Forest Labs 發布 5.6B 引數的開源權重模型 FLUX 3 Image Klein,支援文生圖、影像編輯和最多 10 張參考圖的多參考生成,並保留原生 4K 與邊界框控制。INT8 版本可在 8GB 視訊記憶體的 NVIDIA RTX 顯示卡上通過 ComfyUI 或 Diffusers 執行,蒸餾模型在 RTX 5090 上約 4 秒生成一張 1MP 影像,RTX 4070 上不到 9 秒。
一篇 arXiv 論文證明,AI 模型可把加密神經網路嵌入自身權重,只在收到秘密觸發時解密執行,且在密碼學假設下即使拿到全部權重也難以誘導或解讀。作者用 PyTorch 實現概念驗證,在化學反應預測任務(CBRN 相關能力的替代任務)上測試微調、權重加噪、梯度觸發搜尋與潛空間對抗訓練,均未能誘匯出隱藏能力。該文被 NeurIPS 2026 接收,共 22 頁,作者已公開模型以支援防禦研究。
Google 宣布 SynthID 水印檢測器現已支援所有合作方,並在新網站 SynthID.com 面向所有人開放。此前 Google 之外的使用者只能通過 Gemini 詢問檢測結果,且檢測器只識別 Google 自家的 SynthID,ChatGPT 等合作方帶有 SynthID 的影像不會被標記。SynthID 是嵌入影像與影片畫素、AI 音訊波形的隱形訊號,Google 稱僅 Gemini 就已為超過 1800 億張影像和影片、24 萬年時長的音訊整合該水印。
OpenCode 發布 v1.18.35,核心改進是新增 canonical redirects,並提供 JSON 與 Markdown 兩種格式的 agent 可讀統計資料。本次修復讓 xAI 的工具呼叫結果可以攜帶受支援的圖片,不支援的圖片格式會被跳過,做法是把 @ai-sdk/xai 升級到 3.0.139。文件方面,Zen 文件新增 Fledge Alpha Free,生態外掛列表加入 opencode-supabase,該版本同時致謝 3 位社群貢獻者。
SynthID Detector 是 Google DeepMind 推出的檢測工具,上傳檔案即可判斷其中是否含有 SynthID 數字水印,目前支援圖片、影片、音訊三類內容。該水印由採用 SynthID 的生成式 AI 產品在生成時直接嵌入畫素或音訊頻段,人眼不可見,且能抵抗濾鏡、調色與有失真壓縮等常見改動。它不是通用 AI 檢測器,只能識別 Google、Nvidia、OpenAI、Kakao 等合作方模型產出的內容;
Google DeepMind 發布一期播客,討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用,並講解不可感知水印如何保護數字媒體與生物設計,時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
OpenAI 表示,文字水印用於回答一個問題:這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號,檢測器可據此識別,不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬,也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。
Black Forest Labs 發布開源影像生成模型 FLUX.3 Image Klein,新增可用 bounding box 指定畫面元素位置的佈局控制,Diffusers 已首日支援。單一模型同時覆蓋文生圖、多參考圖生圖:提示詞中用 <ref_image_0> 引用參考圖,編輯時用 src_bbox 與 tgt_bbox 指定區域移動,座標按 0–1000 歸一化、y 在前,任意尺寸通用。
明略科技與中國科學院自動化研究所聯合提出 VisionHOPE,稱其為首個以自修改學習系統為核心的通用視覺骨幹網路,程式碼、底層運算元與預訓練權重已按 MIT 協議開源。模型在單次前向計算中一邊讀圖、一邊更新決定特徵關聯、學習步長與記憶保留的規則,由五類可更新記憶協同完成。VisionHOPE-S 以 52.9M 引數在 ImageNet-1K 取得 85.2% Top-1 準確率,引數量不到 VMamba-B 的六成、準確率高 1.3 個百分點;
免費開源的本地 AI 修圖工具 Rembrandt 發布,支援 macOS、Windows 與 Linux,無需帳號與訂閱。它把 2×/4× 超解析度、AI 降噪、失焦重對焦放在 GPU 上執行,可用自然語言(如「shadows +25」)或直接在照片上拖拽調參,編輯以標準 XMP 存在照片旁、不改原圖。另含筆刷與 AI 主體/深度蒙版、HDR 與全景合併、1000+ 相機 RAW 和 1500 個鏡頭配置檔案,並可自託管在瀏覽器中使用。
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具,並以開放形式供研究使用。該工具面向科研人員,目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。
Adobe 宣布,Lightroom 移動版(iOS、iPadOS、Android)新增生成式 AI 一鍵睜眼功能,可用於挽救閉眼照片。當應用檢測到照片中一人或多人閉眼時,會自動在影像上顯示 Open Eyes 快捷操作圖示;使用者只需點選該圖示,就能嘗試讓閉眼睜開。該功能面向 iOS、iPadOS 和 Android 使用者,操作入口直接出現在照片上。
阿里 Qwen 官方 X 帳號在 2026 年 10 月 9 日發布動態,正文只有「Pics:」一詞,隨附圖片,沒有任何文字說明。公開可見的文字裡沒有出現模型名稱、版本號、功能或發布時間,因此無法確認圖片指向哪款產品或更新。要了解具體內容只能檢視原帖圖片,後續說明有待官方補充。