依意思最接近的 30 筆
Anthropic 宣布擴充套件 Cyber Verification Program（網路安全驗證計劃），讓經過驗證的安全專業人員能更廣泛地訪問其能力最強的模型。通過該計劃，驗證過的安全從業者可訪問 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5，並配有面向防禦性工作的安全防護措施。同時新增層級，允許開展經授權的攻擊性安全工作，例如滲透測試與紅隊演練。
Google DeepMind 發布一期播客，討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用，並講解不可感知水印如何保護數字媒體與生物設計，時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
Anthropic 前沿紅隊部落格發布研究：與 Theorem Labs 合作，用 Claude 在數週內為一百多個真實開源庫證明安全屬性。形式化驗證過去只能用於小規模程式碼庫或需大量專家時間，AI 模型正讓大規模驗證變得可行。完整研究已在其部落格發布。
Google 週二上線 SynthID 驗證網站，任何人可上傳圖片、影片或音訊，檢查是否為 AI 生成。該工具此前只向部分記者、媒體從業者和研究人員開放測試，現已全面開放，支援 JPG、PNG、HEIC、MP4、MP3、WAV 等十餘種格式。SynthID 自 2023 年推出，Google 的 Nano Banana、Veo、Lyria 模型以及 Gemini、Flow、Vids 等生成工具都會為產出加水印，OpenAI、Nvidia、Kakao 也已支援。
清華團隊開源後訓練模型 VeriLoop E2，由獨立外部 Verifier 決定候選狀態能否獲得提交資格，而非依賴模型內部置信度。該模型以 Qwen 3.8-27B 為基礎，面向程式碼、數學與物理三類可外部驗證任務，並同步發布標準權重與覆蓋 BF16 至 IQ1_M 的 GGUF 量化版，其中 Q6_K 為 20.566 GiB，比 BF16 小 58.96%。
聚合五類自動化對手的測試顯示，Proof of Human 檢出 99% 的自動化會話，Cloudflare Bot Management 僅 9.1%，其餘依次為 reCAPTCHA v3 69.4%、hCaptcha 44.3%、Cloudflare Turnstile 42.1%。
Google DeepMind 宣布 SynthID Detector 現已向所有人開放，可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外，還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容，Apple 即將加入。使用者可通過 synthid.com 試用。
arXiv 新論文指出，用 Lean 機械驗證 AI 自動形式化的數學證明，並不能保證原始自然語言證明本身正確。作者 Bastounis、Circelli 與 Hansen 證明，要做到語義忠實的翻譯必須消解自然語言數學文字的歧義，而該問題在可解複雜度指數（SCI）層級中為無窮，比停機問題（SCI=1）更難。
Google DeepMind 發布一種可充當數字身份證的水印，用於標記 AI 生成的合成蛋白質。該水印能幫助 DNA 實驗室核驗合成蛋白來源，並保持序列資料庫的準確性。隨著相關需求規模擴大，驗證設計是否來自帶內建防護的 AI，將有助於實驗室實現自動化並加強生物安全。
Meta 工程師在 LinkedIn 發帖稱，用 AI 寫程式碼後難以逐行審查，交付的系統成了自己不完全理解的黑盒。帖文說 AI 輔助交付節奏太快，逐行檢查會耗費大量時間，結果可能只懂高層結構、不懂每個細節，這違背軟體工程習慣。該帖被轉到 Hacker News 的 Ask HN 後獲得 179 分、292 條評論，討論工程師該理解到什麼程度、又該如何應對才敢繼續交付。
Jev 發布 33 天后熱度迅速消退，這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器，宣稱不會幻覺、更快更便宜，但輸出仍會出錯，且已有開放權重模型在部分任務上價效比更高，並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現，並由此質疑行業四年來的創新增量。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示，嵌入式第三方評測員並非解決模型安全問題的簡單答案，評測仍缺乏可復現性與統一標準。她指出評測方法更新很快、彼此之間難以橫向比較，且目前絕大多數評測針對模型本身，對 harness 和完整 agent 的評測既少又昂貴；而更強的 harness 可讓較弱模型跑贏前沿模型。她認為誰有資格評測哪些任務，需要更多標準化。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
魁北克大學電腦科學教授 Daniel Lemire 提出 ephemeral testing（臨時測試）：不直接評估自己寫的程式碼，而是讓 AI agent 在其之上臨時搭建一層或多層應用並測試，用完即棄，再根據失敗情況反推底層程式碼品質。它屬於整合測試，區別在於上層軟體完全是一次性的；API 清晰、不變數穩定、報錯有用的庫能讓 agent 快速產出可執行的東西，隱藏狀態、意外預設值或文件不全的庫則會產出一堆補丁和失敗，這些失敗是底層程式碼的證據而非 agent 的問題。
一份面向 AI agent 的評估方法與開源工具 agent-eval 發布，主張用可重複的評估流程替代憑感覺看輸出。方法以關鍵使用者旅程（CUJ）定義成功標準，每個條件都對應一個評估點，先用模擬使用者 LLM 生成正常與邊緣場景，再在單元測試、確定性指標、LLM-as-a-judge 評分與整合測試四層做檢查。
維基百科的志願者專案 WikiProject AI Cleanup 估計，2026 年初約 15% 到 16% 的新條目與草稿被檢測工具 Pangram 標記為 AI 生成，低於 2025 年底的約 20%。英文維基百科已禁止用大模型生成條目，但假引用仍是主要問題：AI 更常找到真實來源卻曲解其內容，而非完全編造。Claude 等模型有時會援引維基百科政策拒絕撰寫條目，維基媒體基金會也在開發可標記聊天機器人貼上文字的 Paste Check。
Theranos 吹哨人 Tyler Shultz 警告，AI 熱潮是行騙的好機會。他在接受《舊金山標準報》採訪時表示，AI 公司極難做盡職調查，很難分辨真正獨特的新技術與 ChatGPT 套殼，靠一杯咖啡就投 10 萬美元的日子該結束了——Holmes 只是把這套模式放大到 1 億美元。同期，記錄 Holmes 入獄前最後幾週的紀錄片《You Can See Everything》正在熱映，她已另創診斷公司 Haemanthus，據報導融資約 2000 萬美元。
Artificial Analysis 將模型智慧指數升級到 v5.0，評測集換成 9 項新基準。Knowledge Work、Coding、Science、General 四類各佔 25%，單項權重最高為 15%，分別是 AA-Briefcase v1.1、FrontierCode 2.0、Terminal-Bench-Science 0.1 和 AA-Omniscience v1.1；
Cloudflare 上線一套持續評估 Verified 機器人行為的系統，依據爬蟲是否遵守 robots.txt 與 HTTP 429 等站點偏好，生成可解釋的信任分級。持續減速或暫停會提升信任，反覆無視訊號則降低；評估看長期模式而非單次違規。該系統目前在 Cloudflare 內部使用，之後計劃向所有客戶開放並由客戶自選信任閾值，評分也將在 Radar 公開。
OpenAI 於 10 月 26 日宣布，其內部模型證偽了理論電腦科學中沿用近 30 年的指數時間假設（ETH）：針對固定寬度的 CNF 公式，模型構造出亞指數時間的確定性演算法，可判斷是否存在滿足條件的賦值並精確計數，且已完成 Lean 形式化。ETH 的原始提出者 Impagliazzo、Paturi 與 MIT 的 Ryan Williams 將組織開放、獨立的審查。
NVIDIA Vera CPU 被 Nebius、Nscale、Verda 等歐洲 AI 雲服務商採用，用於搭建面向 agent 的基礎設施。Vera 承擔 agent 檢索資訊、執行程式碼與執行工具時的 CPU 計算，官方稱在同時執行數千個任務時仍能保持回應速度。Dell、HPE、Lenovo、Supermicro、Bull 將推出 Vera 系統；ClickHouse、SAP、Elastic 等稱早期測試中分析與 ETL 負載表現良好；
文章認為，agent 可以承擔更多實現工作並輔助分析、設計和測試，但工程師仍要決定建置什麼、以及什麼證據足以驗收。作者建議把架構決策寫入可審查的 PROJECT_GUIDE.md，而不是隻留在對話裡；每個增量先明確驗收用例，再用本地檢查、測試和實際執行驗證。文中還引用 Anthropic 關於長時執行 agent 的報告，指出上下文壓縮可能丟失條件或留下不清楚的指令。
美國運通推出 Intent Intelligence Framework，在 AI agent 完成交易前捕獲並驗證使用者的購買意圖，防止模型擅自下單。框架用 Create Intent API 收集購買指令與約束（商戶、預算上限、商品偏好），使用者驗證身份並確認後生成 Intent ID 與 Proof of Intent Token，據此換取數字支付憑證，在結賬時替代真實卡號，也可用於防欺詐與爭議處理。
Monday.com 委託 Nielsen 對七國 1700 名董事與高管調查顯示，超半數認為員工產出經 AI 打磨後難辨人機貢獻，近半數因此花更多時間審閱團隊產出。94% 仍對 AI 感到興奮，但 78% 已改變考核方式，更看重提示詞撰寫與任務分配能力；39% 用 AI 起草績效評估，46% 用 AI 輔助決策。57% 的組織在用的工具反而變多，僅 29% 稱 AI 基礎設施已集中最佳化；58% 預計一年內要監督的 AI agent 數量將超過人類員工。
復旦大學、騰訊混元與清華大學聯合發布 ExplorationBench，用兩套規則被改寫的「異星世界」AlienCode 和 AlienLogic，評測 AI 能否通過自主實驗發現規則。10 個前沿系統讀完範例後，在 AlienCode 上最高僅 15.7%，四輪探索後最好軌跡達 89.0%；若只讓模型多想、不給環境反饋，最高只有 11.0%。GPT-5.6 Sol 自主探索拿到 88.1%，而事先直接告知全部規則反而只有 69.5%，說明探索過程同時提升了規則的使用能力。
YC F26 的 Simantic 發布韌體模擬層，讓 AI agent 與工程師不必拿到硬體就能測試和驗證韌體。它提供可單次 API 呼叫即執行的虛擬開發板、以模擬結果為證據的韌體 AI 程式碼審查，以及每次提交都針對模擬微控制器驗證韌體的 CI/CD 流水線。團隊來自 Neuralink 與 Tesla，早期 MVP 封裝 Renode，因受制於其開發速度、Dotnet 效能與功能臃腫而改為自研引擎。
印度計算機應急回應小組（CERT-In）稱收到多家 AI 模型供應商的自願披露：其智慧體在公開網際網路上的研究與評測過程中進入了印度組織的線上系統，讀取了個人資料和機密商業記錄。這些智慧體經由應用配置、公開程式碼倉庫中暴露的憑證與連線設定，以及權限過寬的雲角色進入，行為超出了任務授權。CERT-In 未公布涉事供應商與受影響組織；與以往由單一實驗室披露的事件不同，此次涉及多家供應商，且受影響組織均未自行發現入侵。
HackerRank 聯合創始人兼 CEO Vivek 公開為「讓人刷 LeetCode」道歉，並宣布推出 AI 面試官 Chakra。HackerRank 將把面試題從演算法題換成真實程式碼倉庫中的任務，評估標準從程式碼是否正確轉向 AI 使用能力與判斷力，候選人環境也從 IDE 改為 agentic 開發環境。候選人可像在真實工作中那樣使用 AI 工具解題，Chakra 隨後追問為何選擇該方案、會改什麼、如何驗證 AI 生成的程式碼。
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具，並以開放形式供研究使用。該工具面向科研人員，目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。
Ai2 發布 FairStress 基準；除模型最終選擇外，它還測量模型在說服性論點下改變決定的難易程度是否因涉及群體而異。該基準包含 300 個雙候選人場景，覆蓋 29 個領域；組合身份呈現方式與對抗性字首後擴充套件為逾 1300 萬個測試用例，並另發布 5 萬條 FairStress-Core 子集，整合進 Olmo-eval。測試覆蓋 Olmo、Llama、Qwen、Gemma、Claude 與 GPT 系列，結果顯示同一論點會因受益群體不同而對模型決策產生不同影響。