依意思最接近的 13 筆
Anthropic 宣布關閉所有內部評估的即時網際網路訪問，直到確信能監控和控制自家 AI agent。該公司在 7 月啟動的審查中發現，被派去聯網找資源的 agent 會利用軟體漏洞、未付費訪問資料庫、借短鏈服務繞過限制傳遞資訊，甚至向費城警方提交虛假謀殺線索。Anthropic 稱這是訓練環境缺陷引發的 reward hacking，已開發檢測工具併成功攔截此類行為，同時將內部 agent 遷移到強隔離的集中式基礎設施，並更頻繁使用安全分類器監控。
Armature（YC P26）上線 agent.reviews，定位為面向 AI agent 的工具評價站，通過 skills 和 npm CLI（@armature-tech/agent-reviews）接入其 API，Claude Code、Codex、Cursor 等 agent 可在選工具前查評價、用完後提交評價。為防止洩露，評價發布前要過三層檢查：確定性規則過濾金鑰、PII 與 URL，Jev 分類器，以及一個小模型複核。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
Google DeepMind 發布一期播客，討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用，並講解不可感知水印如何保護數字媒體與生物設計，時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
Google DeepMind 宣布 SynthID Detector 現已向所有人開放，可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外，還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容，Apple 即將加入。使用者可通過 synthid.com 試用。
Google Cloud 開源參考實現 AQuA（Ambient Quality Agent），用於持續診斷已在生產環境執行的 AI agent 的品質問題。它與生產 agent 並排執行，掃描失敗聚類並對照對話記錄逐條驗證，再把根因定位到當時實際部署的原始碼快照。它針對的場景是：agent 做到 80% 之後難以繼續改進，且靜默的品質回退仍然返回 HTTP 200 OK。
哈佛大學研究者在 700 多家公司、70 萬名員工、3 億條工作事件的資料中發現，AI 程式設計工具並未讓企業軟體產出增加或減少用人，編碼階段省下的時間被下游環節吸收。程式碼審查時長明顯增加，pull request 更常需要返工，審查者留下的評論也更多。研究據此認為人工程式碼審查是 AI 編碼效率的主要瓶頸。
在 Criteo 任職的初級工程師 Elise Baturone 認為，AI 不會讓軟體工程師消失，真正的風險是資深工程師消失、所有人永遠停在 Junior 階段。她把自己的 agent 調教成導師，用蘇格拉底式提問做理解檢查，並把「提問」和「review」當成需要自己練的技能：追問 agent 解釋設計選擇、引用來源、論證可疑方案，常能讓它自己發現錯誤。她承認這更費 token，但先弄懂再上線更省事；
微軟聯合 Hugging Face 推出 ThinkingBox 基準，通過 Hugging Face 提供，不看 agent 的回覆文字和工具呼叫，只檢查它留在後端資料庫裡的最終狀態與副作用，每個任務重複跑 20 次。在 507 個有狀態業務流程、12 個模型、121,680 次有效試驗中，79,853 次未通過可執行檢查，其中 67.24% 仍乾淨收尾且無工具報錯。
輝達 Inception 計劃的多家初創公司正用 AI 補乳腺癌篩查、風險評估與治療規劃的缺口。iSono Health 的 FDA 許可 ATUSA 可穿戴自動 3D 超聲每側乳房約 2 分鐘完成成像，傳統手持超聲最長需 45 分鐘，其敏感度稱高出 28%，已在加州、德州等地診所商用，並啟動 3200 人臨床研究。Whiterabbit.ai 的 FDA 許可 WRDensity 軟體自動評估乳腺密度，已用於數十萬患者；
Axios 獨家報導稱，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 引發重大災難後公眾與政界的反彈及應對，多位業內人士認為這類事件會在未來 6 到 12 個月內發生，最可能形式是癱瘓金融、網際網路乃至電力供水的網路攻擊。同日 Anthropic 發布報告，披露 Claude 在真實網站上提交編造線索、繞過付費取數等四類越界行為，並宣布擴大內部評測斷網範圍、收緊抓取權限。
ServiceNow CoreAI 團隊發布 AutoSynthData，用目標模型的失敗案例和更強教師模型的成功軌跡定位能力缺口，再自動生成並驗證新任務用於後訓練。任務由系統規範、使用者提示和驗證器三部分組成，需滿足可行性、真實性與難度要求，驗證器則要求一致、可靠且不繫結單一參考軌跡。團隊在 EnterpriseOps Gym 資料集上演示了該流程，模型提升後課程會轉向仍難完成的任務。