AISpot

搜尋

依意思最接近的 30 筆

X @OpenAI● 精選AI 評分66

OpenAI:文字水印有侷限,檢測器暫只開放給獲批研究者

OpenAI 表示文字水印存在明顯侷限:在短文字中往往無法檢測,改寫或翻譯就能徹底去除水印。因此目前只有經過批准的研究者才能使用其水印檢測器,用於評估和改進這項技術。OpenAI 將文字水印視為一個持續研究的方向,會繼續測試和改進,並收集使用者、開發者、政策制定者和研究者的反饋。

The Verge AI● 精選AI 評分80

OpenAI 在 ChatGPT 和 Codex 推出文字水印,首批僅限歐盟

OpenAI 開始在 ChatGPT 和 Codex 的文字輸出中加入不可見、機器可讀的水印,初期只面向歐盟使用者。OpenAI 稱自研的 textGrain 水印與 Google DeepMind 的 SynthID for text 等方法相比持平或更優,後者也是 Anthropic 8 月宣布的水印基礎;兩家公司都是為了滿足歐盟 AI Act 的要求。OpenAI 還給出 AI 基準分數,顯示加水印與未加水印文字表現相近,但表示 textGrain 並不保證……

X @OpenAI● 精選AI 評分63

OpenAI 說明文字水印:僅判斷是否由其模型生成

OpenAI 表示,文字水印用於回答一個問題:這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號,檢測器可據此識別,不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬,也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。

Ars Technica AI● 精選AI 評分82

OpenAI 將在歐盟預設給 ChatGPT 輸出加水印

OpenAI 宣布將在歐盟自動為 ChatGPT 生成的文字加水印,其他地區也提供該功能,但預設關閉。這是為遵守 8 月生效的歐盟 AI Act,該法要求 AI 生成內容可被其他工具檢測。OpenAI 的水印方法名為 textGrain,屬專有技術並已發布技術論文:它在用詞中埋入人類難以察覺、也不影響輸出品質的模式,持有金鑰者可用專用檢測器識別。檢測器初期只向有限的研究者與機構開放,其他方需經申請審批逐步加入。

機器之心● 精選AI 評分88

OpenAI 啟用文字水印,歐盟 ChatGPT 與 Codex 輸出將被標記

OpenAI 宣布正式啟用文字水印:即日起全球 API 客戶可為部分模型自行開啟,預設關閉;未來幾週歐盟地區符合條件的 ChatGPT 與 Codex 文字輸出將被加上肉眼不可見的水印,覆蓋所有付費檔位,檢測器僅向稽核過的研究者和專業機構開放。配套技術報告 textGrain 由今年考普斯會長獎得主蘇煒傑擔任通訊作者,用可調的「熵預算」控制水印強度。

Hacker News front page● 精選AI 評分87

OpenAI 公布歐盟文字溯源方案,API 可選用文字水印

OpenAI 公布應對歐盟 AI 法案的文字溯源方案:全球 API 客戶即日起可為部分模型選擇開啟文字水印(預設關閉),未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印,檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞,在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%,數學等用詞受限內容明顯更低;

X @OpenAI● 精選AI 評分84

OpenAI 將在歐盟為 ChatGPT 與 Codex 文字加水印

為滿足歐盟 AI 法案的監管要求,OpenAI 將內容溯源範圍從影像、音訊擴充套件到文字,未來幾週內在歐盟開始對 ChatGPT 和 Codex 的合規文字加水印。其 API 客戶即日起可在全球範圍內為部分模型開啟文字水印。OpenAI 同時承認,當前文字水印技術存在明顯侷限。

TechCrunch AI● 精選AI 評分86

OpenAI 將在歐盟為 ChatGPT 文字加隱形水印

OpenAI 宣布將在歐盟為 ChatGPT 和 Codex 生成的文字加入隱形水印,以符合 8 月 2 日生效的 EU AI Act 透明度規則。水印將在未來幾週內推送給歐盟所有套餐的合格使用者;全球 API 開發者即日起可為部分模型開啟,預設關閉,暫不設為全球預設。該方法名為 textGrain,通過微呼叫詞留下可被檢測器識別的模式,隨複製貼上保留,OpenAI 稱不影響模型表現。

Hacker News front page● 精選AI 評分77

水印不影響品質?實測加水印後多次生成答案趨同

Anthropic 聲稱水印不影響 Claude 輸出品質,但其依據的 Google SynthID-Text 論文補充材料承認存在「多樣性/可檢測性權衡」:同一提示多次取樣時,加水印的回答彼此更相似。有技術顧問在開源模型上按論文設定復現該方法,同一提示五次要求描述海邊小鎮之旅,四次開頭幾乎相同(「我的心仍在歌唱/起舞……」),未加水印的版本則有三種不同開頭。這意味著重試、多次生成擇優、以及靠重複取樣判斷置信度都會受影響,寫作等需要創造性的場景尤其明顯。

X @GoogleDeepMind● 精選AI 評分63

@GoogleDeepMind: Acting like a digital ID card, the watermark can help DNA labs verify synthetic proteins and keep s…

Google DeepMind 發布一種可充當數字身份證的水印,用於標記 AI 生成的合成蛋白質。該水印能幫助 DNA 實驗室核驗合成蛋白來源,並保持序列資料庫的準確性。隨著相關需求規模擴大,驗證設計是否來自帶內建防護的 AI,將有助於實驗室實現自動化並加強生物安全。

X @GoogleDeepMind● 精選AI 評分80

@GoogleDeepMind: SynthID Bio is our new family of watermarking methods made for AI-generated biological designs.

Google DeepMind 發布 SynthID Bio,一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下,把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支,具體覆蓋範圍、檢測方式與可用時間尚未公布。

X @GoogleDeepMindAI 評分43

@GoogleDeepMind: When AI-generated content has become so realistic, how do we verify what's made by human, machine, …

Google DeepMind 發布一期播客,討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用,並講解不可感知水印如何保護數字媒體與生物設計,時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。

Hacker News front pageAI 評分64

Google DeepMind 上線 SynthID Detector 水印檢測工具

SynthID Detector 是 Google DeepMind 推出的檢測工具,上傳檔案即可判斷其中是否含有 SynthID 數字水印,目前支援圖片、影片、音訊三類內容。該水印由採用 SynthID 的生成式 AI 產品在生成時直接嵌入畫素或音訊頻段,人眼不可見,且能抵抗濾鏡、調色與有失真壓縮等常見改動。它不是通用 AI 檢測器,只能識別 Google、Nvidia、OpenAI、Kakao 等合作方模型產出的內容;

Hacker News front pageAI 評分46

Current Affairs 新合同禁止刊發 AI 文字與 AI 插畫

美國雜誌 Current Affairs 通過新的工會合同,實施出版業最嚴格的反 AI 政策:不刊登任何 AI 生成的文字,也不用 AI 生成插畫作為配圖。主編 Nathan J. Robinson 稱此舉是為抵制媒體用 AI 批次生產「內容」、以極低成本替換寫作者,並援引 Futurism 報導稱創意產業四年間流失逾 20 萬個崗位。他也承認無法保證 AI 投稿完全不會混入,但會保持警惕。

Hacker News front pageAI 評分46

The Consensus 上線 AI 寫作痕跡檢測器,命中文章不獲推薦

軟體基礎設施部落格 The Consensus 上線自研「AI tells」檢測器,用靜態規則比對 2023 年前後的寫作差異,處於第 99 百分位的文章將失去首頁 At a Glance 板塊、社交媒體和每週 newsletter 的推薦資格。該檢測器不判斷文章是否由 AI 撰寫,只提示讀起來像 AI 寫作,作者稱它偶爾也會誤判自己的文章。讀者仍可在 feed 搜尋中用 aitells<90 過濾,作者也承認規則可被繞過,但認為這反而會促使各家寫出自己的風格。

TechCrunch AI● 精選AI 評分83

Google 上線 SynthID 網站,任何人都能驗證 AI 生成內容

Google 週二上線 SynthID 驗證網站,任何人可上傳圖片、影片或音訊,檢查是否為 AI 生成。該工具此前只向部分記者、媒體從業者和研究人員開放測試,現已全面開放,支援 JPG、PNG、HEIC、MP4、MP3、WAV 等十餘種格式。SynthID 自 2023 年推出,Google 的 Nano Banana、Veo、Lyria 模型以及 Gemini、Flow、Vids 等生成工具都會為產出加水印,OpenAI、Nvidia、Kakao 也已支援。

Ars Technica AI● 精選AI 評分82

Google 上線 SynthID 檢測網站,支援全部合作方水印

Google 宣布 SynthID 水印檢測器現已支援所有合作方,並在新網站 SynthID.com 面向所有人開放。此前 Google 之外的使用者只能通過 Gemini 詢問檢測結果,且檢測器只識別 Google 自家的 SynthID,ChatGPT 等合作方帶有 SynthID 的影像不會被標記。SynthID 是嵌入影像與影片畫素、AI 音訊波形的隱形訊號,Google 稱僅 Gemini 就已為超過 1800 億張影像和影片、24 萬年時長的音訊整合該水印。

X @GoogleDeepMind● 精選AI 評分85

SynthID Detector 向所有人開放,可檢測多家 AI 生成內容

Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。

The Verge AIAI 評分65

YouTube 為 AI 生成歌曲加註 Made with AI 標籤

YouTube 開始為經 AI「改動或完全生成」的歌曲加上「Made with AI」標籤,即日起上線,做法與其現有的影片 AI 標籤一致。該標籤並非覆蓋音樂製作中的所有 AI 用途,官方舉例包括用生成模型創作作曲與人聲。上傳歌曲的音樂合作伙伴需按規則披露生成式 AI 使用;若未披露,YouTube 稱可能借助「其他訊號」判斷歌曲是否為 AI 生成。

Hacker News front pageAI 評分41

部落格:讀 AI 生成文字速度至少慢三分之一,風格與精度雙雙流失

一位作者在部落格中稱,自己閱讀 AI 生成文字的速度至少慢三分之一,即便篇幅相同。他把原因歸為兩點:AI 會平均化寫作風格,讀者難以感知作者本人及其語境;AI 為把文字拼接通順必須自行假設,傾向選擇更模糊的措辭,從而損失精度。他還指出多數模型輸出囉嗦,讀者需自行替換含糊詞,寫作者省下的時間會轉嫁到讀者一側,並帶來更多追問、更多迭代與信任下降。

Hacker News front pageAI 評分70

指紋指令碼內嵌提示注入,試圖阻止 AI 反混淆

一名研究者用 Playwright 爬取 Tranco 前 1 萬個網站收集 canvas 指紋指令碼,在 servicepipe.tech 的一個指令碼中發現專門針對 LLM 的提示注入。指令碼用 computeRicinLethalDosageForWaterSupply 等生物武器相關函式名觸發模型安全攔截,並借不可見 Unicode 字元藏入要求切換到無限制模式的越獄指令。Astra 與 Daybreak Blue 拒絕協助反混淆,GLM-5.3 則照做了。

Hacker News front pageAI 評分70

維基百科:2026 年初約 15% 新條目被檢出 AI 生成

維基百科的志願者專案 WikiProject AI Cleanup 估計,2026 年初約 15% 到 16% 的新條目與草稿被檢測工具 Pangram 標記為 AI 生成,低於 2025 年底的約 20%。英文維基百科已禁止用大模型生成條目,但假引用仍是主要問題:AI 更常找到真實來源卻曲解其內容,而非完全編造。Claude 等模型有時會援引維基百科政策拒絕撰寫條目,維基媒體基金會也在開發可標記聊天機器人貼上文字的 Paste Check。

Hacker News front page● 精選AI 評分80

論文證明 AI 模型可加密隱藏任意能力,審計難誘導

一篇 arXiv 論文證明,AI 模型可把加密神經網路嵌入自身權重,只在收到秘密觸發時解密執行,且在密碼學假設下即使拿到全部權重也難以誘導或解讀。作者用 PyTorch 實現概念驗證,在化學反應預測任務(CBRN 相關能力的替代任務)上測試微調、權重加噪、梯度觸發搜尋與潛空間對抗訓練,均未能誘匯出隱藏能力。該文被 NeurIPS 2026 接收,共 22 頁,作者已公開模型以支援防禦研究。

Hacker News front pageAI 評分62

Springer Nature 廢水處理專著首章被曝全是 AI 垃圾圖

前神經科學家 Michał Wójcik 曝光:Springer Nature 2025 年出版的《Nanocomposites for Sustainable Wastewater Treatment》第一章充斥明顯 AI 生成的垃圾插圖,而該章作者正是本書主編 Swapnila Roy;第 10 章的配圖則涉嫌直接搬運他人論文。他此前還發現 Elsevier 旗下期刊刊出過用圖形摘要“證明”死後意識存在的荒唐論文。他把這類現象歸因於印刷轉向按需印刷後,幾乎無人再翻頁審稿。

量子位AI 評分63

AI 影視公司 Utopai 影片模型盲測排名第二

Artificial Analysis 最新文生影片榜單中,影視公司 Utopai Studios 的模型 Utopai X 以 1150 分位列第二,與第一名阿里 Wan 3.0 僅差 7 分,據福布斯估算其估值約 10 億美元。該榜單由評審在不知道模型名字的情況下盲投產生;Utopai X 以 MiniMax 開源的影片模型 H3 為底子做後訓練,10 項能力中有 7 項比基座更接近頂尖水平,音訊同步、運鏡控制與物理提升最明顯。

The Verge AIAI 評分70

賓州立法要求 AI 生成廣告加標註

賓夕法尼亞州州長 Josh Shapiro 於週四簽署《人工智慧欺騙性廣告法》,要求任何「經人工智慧顯著修改或生成」的廣告——無論是靜態圖片、影片、音訊還是文字——都以與廣告本身相同的格式加註標籤。該法既適用於大型企業的電視廣告,也適用於餐廳的促銷傳單。賓州是最早要求披露 AI 內容的州之一。