AISpot
所屬事件:OpenAI 公布歐盟文字溯源方案,API 可選用文字水印(2 個來源 · 2 則報導)

OpenAI 公布歐盟文字溯源方案,API 可選用文字水印

Hacker News front page10/5 16:38官方公告政策與安全產品與方案開發工具開源

OpenAI 公布應對歐盟 AI 法案的文字溯源方案:全球 API 客戶即日起可為部分模型選擇開啟文字水印(預設關閉),未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印,檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞,在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%,數學等用詞受限內容明顯更低;

公開自研 textGrain 文字水印的分階段落地細節與實測檢出率數字(含同義詞替換後大幅衰減),並計劃開源;對 API 客戶、歐盟 ChatGPT 與 Codex 使用者及內容溯源開發者最有用。

原標題:Our approach to EU text provenance rules
閱讀原文

同一事件共有 2 則報導(2 個來源),看事件全貌

評分86 / 88(平均 87,門檻 76)
狀態精選

相關報導

Cloudflare blog (AI)● 精選10/1 14:04AI 評分68

Cloudflare 將 EuroLLM 與 Apertus 兩個歐洲開源模型接入 Workers AI

Cloudflare 在生日周宣布,將歐洲兩個公共機構訓練的開源模型 EuroLLM 和 Apertus 引入 Workers AI,現已開放訪問申請。EuroLLM 覆蓋 35 種語言,含全部 24 種歐盟官方語言;Apertus 由瑞士 ETH Zurich、EPFL 等開發,訓練資料超 15 萬億 token、覆蓋 1500 多種語言,權重與資料全部公開。Cloudflare 同時啟動面向政府網路安全機構與關鍵基礎設施運營方的實操工作坊,首場 10 月在新加坡舉行。

X @GoogleDeepMind● 精選10/1 12:43AI 評分80

@GoogleDeepMind: SynthID Bio is our new family of watermarking methods made for AI-generated biological designs.

Google DeepMind 發布 SynthID Bio,一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下,把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支,具體覆蓋範圍、檢測方式與可用時間尚未公布。