OpenAI:文字水印有侷限,檢測器暫只開放給獲批研究者
OpenAI 表示文字水印存在明顯侷限:在短文字中往往無法檢測,改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器,用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向,會繼續測試和改進,並收集使用者、開發者、政策制定者和研究者的反饋。
2026 年 10 月 5 日,OpenAI 公布應對歐盟 AI 法案(EU AI Act)的文字溯源方案,把內容溯源範圍從影像、音訊擴充套件到文字。即日起,全球 API 客戶可為部分模型選擇開啟文字水印,API 中預設關閉;未來幾週內,OpenAI 將在歐盟的 ChatGPT 與 Codex 合規文字輸出中加入不可見水印。OpenAI 稱水印只回答一個問題:這段文字是否很可能由其模型生成;它在生成時嵌入不可見的統計訊號,不新增可見標記或特殊字元,也無法說明原作者或版權歸屬,不能識別個人、組織、帳號、對話或提示詞。據 OpenAI 介紹,自研的 textGrain 通過統計訊號標記用詞,在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%,數學等用詞受限內容明顯更低;公司測試中水印未影響模型能力、速度與回答的閱讀感受。檢測器暫只向獲批研究者與專家組織開放申請。OpenAI 同時承認侷限:水印在短文字中往往無法檢測,改寫或翻譯可徹底去除。據 The Verge 報導,OpenAI 稱 textGrain 與 Google DeepMind 的 SynthID for text 相比持平或更優,後者也是 Anthropic 8 月宣布的水印基礎,兩家公司同樣是為滿足歐盟 AI 法案要求;OpenAI 還給出基準分數,顯示加水印與未加水印文字表現相近。對歐盟的 ChatGPT 與 Codex 使用者而言,文字輸出將被動帶上水印;API 客戶則需自行開啟,且目前僅覆蓋部分模型。
AI 根據 5 則報導生成 · 10/5 20:21 更新
沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。
OpenAI 表示文字水印存在明顯侷限:在短文字中往往無法檢測,改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器,用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向,會繼續測試和改進,並收集使用者、開發者、政策制定者和研究者的反饋。
OpenAI 表示,文字水印用於回答一個問題:這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號,檢測器可據此識別,不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬,也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。
為滿足歐盟 AI 法案的監管要求,OpenAI 將內容溯源範圍從影像、音訊擴充套件到文字,未來幾週內在歐盟開始對 ChatGPT 和 Codex 的合規文字加水印。其 API 客戶即日起可在全球範圍內為部分模型開啟文字水印。OpenAI 同時承認,當前文字水印技術存在明顯侷限。
過去 48 小時,有 4 個獨立來源報導,最近 6 小時新增 4 個。熱度 3.7,熱門榜第 1 名。
熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。
同一事件的報導集中在這裡,新的進展會繼續補充。