10 月 7 日,Google 上線 SynthID 檢測網站 synthid.com 並向所有人開放,可上傳圖片、影片或音訊,判斷其中是否含有 AI 生成水印。該工具此前只向部分記者、媒體從業者和研究人員開放測試,Google 之外的使用者只能通過 Gemini 詢問結果。據 Ars Technica 報導,舊版檢測… 看完整事件
SynthID Detector 向所有人開放,可檢測多家 AI 生成內容
Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。
檢測範圍從 Google 自家模型擴充套件到 OpenAI、NVIDIA、Kakao 等外部廠商,並從受限開放轉為全員可用,對關注 AI 內容溯源與合規的人有參考價值。
原標題:@GoogleDeepMind: SynthID Detector is now available to everyone.
閱讀原文
| 評分 | 80 / 90(平均 85,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
@GoogleDeepMind: SynthID Bio is our new family of watermarking methods made for AI-generated biological designs.
Google DeepMind 發布 SynthID Bio,一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下,把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支,具體覆蓋範圍、檢測方式與可用時間尚未公布。
OpenAI 將在歐盟預設給 ChatGPT 輸出加水印
OpenAI 宣布將在歐盟自動為 ChatGPT 生成的文字加水印,其他地區也提供該功能,但預設關閉。這是為遵守 8 月生效的歐盟 AI Act,該法要求 AI 生成內容可被其他工具檢測。OpenAI 的水印方法名為 textGrain,屬專有技術並已發布技術論文:它在用詞中埋入人類難以察覺、也不影響輸出品質的模式,持有金鑰者可用專用檢測器識別。檢測器初期只向有限的研究者與機構開放,其他方需經申請審批逐步加入。
ServiceNow 發布 AutoSynthData,為企業 agent 自動生成訓練資料
ServiceNow CoreAI 團隊發布 AutoSynthData,用目標模型的失敗案例和更強教師模型的成功軌跡定位能力缺口,再自動生成並驗證新任務用於後訓練。任務由系統規範、使用者提示和驗證器三部分組成,需滿足可行性、真實性與難度要求,驗證器則要求一致、可靠且不繫結單一參考軌跡。團隊在 EnterpriseOps Gym 資料集上演示了該流程,模型提升後課程會轉向仍難完成的任務。