研究：OpenAI 和 Google 新影像模型更難攔截色情輸出
安全研究者指出，Google 與 OpenAI 最新的影像生成模型能力提升的同時，攔截色情輸出的表現反而可能變差。Google 今年 7 月對美國、澳大利亞和英國網民的聯合研究發現，未經同意的色情內容多經私信、文字或私人云盤傳播，不易被檢測或舉報。Google 研究者據此認為，最關鍵的干預點仍在源頭，即用於生成虛假性影像的 AI 工具。
紅隊測試顯示兩大廠商的影像模型變強後反而更難攔截色情輸出，配合 7 月美澳英三國使用者研究資料，對關注 AI 安全與內容稽核的讀者有參考價值。
原標題：OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say
閱讀原文
| 評分 | 78 / 62（平均 70，門檻 76） |
|---|---|
| 狀態 | 未入選 |
相關報導
OpenAI 在 ChatGPT 影像生成結果旁上線視覺廣告
OpenAI 正在為 ChatGPT 增加視覺展示廣告，廣告會出現在使用者要求生成的影像旁邊，本月晚些時候先在美國上線，僅面向初始測試廣告主，且廣告有明確標註、不影響 ChatGPT 給出的回答。同時 OpenAI 擴充套件廣告衡量工具與合作生態，納入 AppsFlyer、Adjust、Branch 等點選歸因夥伴，並與 DoubleVerify、Integral Ad Science 開展品牌適配性評估試點。
OpenAI 啟用文字水印，歐盟 ChatGPT 與 Codex 輸出將被標記
OpenAI 宣布正式啟用文字水印：即日起全球 API 客戶可為部分模型自行開啟，預設關閉；未來幾週歐盟地區符合條件的 ChatGPT 與 Codex 文字輸出將被加上肉眼不可見的水印，覆蓋所有付費檔位，檢測器僅向稽核過的研究者和專業機構開放。配套技術報告 textGrain 由今年考普斯會長獎得主蘇煒傑擔任通訊作者，用可調的「熵預算」控制水印強度。
OpenAI 一次公開 722 篇 AI 數學論文，僅 42% 完成形式化驗證
OpenAI 在 GitHub 公開了 722 篇由內部未發布前沿模型生成的數學手稿，涵蓋數論、代數幾何、分析、組合數學等方向，其中約 300 項核心結果完成 Lean 形式化驗證，佔 42%。公司稱模型共嘗試超過 4000 個問題，一項典型成果平均消耗約 3 小時 ChatGPT Pro thinking 算力，但未公開所用模型與提示詞。