Google Cloud 開源 AQuA,為生產環境 agent 做品質診斷
Google Cloud 開源參考實現 AQuA(Ambient Quality Agent),用於持續診斷已在生產環境執行的 AI agent 的品質問題。它與生產 agent 並排執行,掃描失敗聚類並對照對話記錄逐條驗證,再把根因定位到當時實際部署的原始碼快照。它針對的場景是:agent 做到 80% 之後難以繼續改進,且靜默的品質回退仍然返回 HTTP 200 OK。
依意思最接近的 20 筆
Google Cloud 開源參考實現 AQuA(Ambient Quality Agent),用於持續診斷已在生產環境執行的 AI agent 的品質問題。它與生產 agent 並排執行,掃描失敗聚類並對照對話記錄逐條驗證,再把根因定位到當時實際部署的原始碼快照。它針對的場景是:agent 做到 80% 之後難以繼續改進,且靜默的品質回退仍然返回 HTTP 200 OK。
ASML 預計第四季度銷售額將高於市場預期,強勁的訂單表現緩解了外界對 AI 支出熱潮後繼乏力的擔憂。路透社 2026 年 10 月 14 日的報導稱,此前投資者擔心 AI 相關資本開支見頂,這份指引與訂單資料緩和了這一憂慮。
據 The Information 報導,OpenAI 正與一家新成立的 AI 影片初創公司談判,計劃讓已關停的 Sora 重新投入商業化,OpenAI 將獲得該公司部分股權。這家公司由夢工廠動畫聯合創始人 Jeffrey Katzenberg、Sora 前研究負責人 Bill Peebles 和 Dropbox 前 CFO Sujay Jaswa 共同創辦,面向電影製作人開發 AI 影片軟體與服務,可能獲得對 Sora 深度定製的權限,但模型權重是否開放尚未確定。
QGIS 社群通過 QEP428,把 AI 政策從「人類在環」改為嚴格禁止,AI 輔助的貢獻不再被接受。提案由 Nyall Dawson 於 9 月 24 日提交,理由是外部貢獻者大量藉助 LLM 生成補丁,給本就人手緊張的維護者帶來難以承受的審查壓力,未經充分審查的 PR 會拖累程式碼品質與社群信任。討論中有人追問該禁令是否同樣適用於 issue 內容與評論,也有人認為措辭過寬,可能連用 LLM 做程式碼審查、審計與安全分析一併禁掉;
Sakana AI 與 UC Berkeley 的研究者提出 MASS(多智慧體自監督),用多智慧體團隊的集體智慧作為自監督訊號,推進同質遞迴自我改進(RSI)。該方法讓同一模型同時充當執行者、工作流最佳化器和評估器:內迴圈在權重固定時搜尋最佳團隊工作流,外迴圈再依據被自評為最優的團隊執行結果更新模型權重,如此迴圈。實驗在非可驗證的研究任務上提升了每輸出 token 的得分,改進由 GPT-5.5 與 Claude Opus 4.8 獨立評分,其判斷不反饋給 MASS。
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
博主 AIL 與開發者 Matt Pocock 就 spec driven development 展開爭論,他認為 AI 專案的事實來源應是寫作所表達的意圖,而非程式碼;在他看來,程式碼只是執行與表示,寫作才是最接近人腦想法的載體。他提出 Ideal State Artifact(ISA)文件,用散文式的理想狀態、約束與決策記錄,加上可原子化測試的 Ideal State Criteria(ISC)及各自的 eval 來承載需求。
QuEra 今年春季部署了 Model Hardware Standard(MHS),讓 AI 代理 Claude 在人類設定的安全邊界內操作約 70 萬美元的精密硬體,把量子計算機雷射鎖的恢復時間從人工干預縮短到幾秒,且無需現場人員。該標準最初由 Anthropic 與 HHMI Janelia 合作發起。AI 代理還自行調優了鎖,並在單次執行中把能力擴充套件到第二個工作波長。
川普推動把「人工智慧」改名為「超級智慧」,矽谷部分有影響力的人物正在跟進。馬斯克在川普表態數小時後即表示支援,並承諾把 SpaceXAI 更名為 SpaceXSI,是回應最快的一位。不過大眾仍普遍沿用 AI 這一說法。川普稱白宮認為「超級智慧」是更被接受、更準確的新術語。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
Shrivu Shankar 在 8 月 24 日的文章中提出,每家 SaaS 公司最終都會變成圍繞模型搭建的 harness,即包裹無狀態 LLM 的基礎設施、介面、上下文與狀態。他給出五階段演進路徑:傳統 SaaS、工程師與 agent 結對、個人執行 harness、個人編排 harness、harness 編排個人,屆時核心任務由 agent 完成,人類只負責提供品味與判斷。
有人逆向分析自家 Samsung 電視,發現機內 AI 功能存在監聽行為,並稱相關 OpenAI 帳號被停用。該帖發布在 Reddit 的 r/antiai 版塊,隨後被轉到 Hacker News,發稿時 28 分、暫無評論。原帖在目前可見的資訊中沒有給出電視型號、韌體版本,也沒有說明抓到的資料具體流向了哪裡。
Anthropic 的 S-1 上市檔案在 SEC 公布,其中風險因素章節長達 93 頁、逾 7 萬字,列出數百項可能衝擊業務的問題,包括 AI 可能勒索人類、產生自我意識乃至終結人類。其餘多為此類公司常見擔憂:競爭、成本、客戶獲取與監管。檔案同時稱 AI 將以超越工業化、電力、半導體和網際網路的方式改造全球各行業。
EinsiaAI 旗下 Navers Lab 發布 Quant Arena,讓 9 個大模型在 3042 只 A 股的真實資料上自行編寫策略、回測和迭代;結果 5 個模型虧本、無一跑贏市場基準。研究期使用 2022—2023 年行情,每個模型最多進行 5 次候選評估;策略凍結後僅在 2024 年封存資料上評估一次。收益最高的 GPT-6 Astra 年化收益率 10.7%、最大回撤 -6.8%,仍低於 17.1% 的市場基準;
加州民主黨參議員 Adam Schiff 在 Decoder 播客中稱,白宮讓多家 AI 公司簽署的自願安全承諾遠遠不夠,他支援設立新的專門機構來監管 AI。他提到,這些公司私下都公開呼籲監管,只是在總統面前不願得罪人;最高法院推翻 Chevron 先例後,法院取代機構專家解釋模糊法律,新規很容易立刻陷入訴訟。
OpenAI 產品負責人 Tibo Sottiaux 發帖預告未來模型會更擅長刪除和簡化程式碼,並在評論中確認 Astra 6.1「coming soon」。負責 coding post-training 的研究員 Rajan Agarwal 轉發該帖,並公開徵集使用者遇到的 sloppy code 與程式碼品質問題。《華爾街日報》此前報導,Astra 6.1 原計劃 10 月發布,因內部安全測試中在權限邊界上表現不穩而被臨時叫停。
SpaceX 第三季度 AI 業務營收 75 億美元,佔公司總收入 52%,並實現 4.31 億美元利潤。該業績來自改名為 Super Intelligence 的業務線,含收購的 Cursor 程式設計工具、Grok 機器人與算力達 1.7 GW 的 neocloud 業務;若不計 Cursor 收購帶來的 12 億美元一次性股權激勵費用,利潤會更高。
Faros 2026 年研究分析 22,000 名開發者、4,000 個團隊兩年遙測資料後發現,AI 採用度高的組織每位開發者 bug 增加 54%,PR 評審中位耗時約漲 5 倍,每 PR 事故數超 3 倍;其 Q3 報告稱部分效應有所緩解,但驗證與運維成本仍在累積。
Simon Willison 在部落格的引語欄目裡摘錄了 Armin Ronacher 的一句話:AI 雖然好玩,但過去 30 年業界寫下了太多糟糕的軟體,現在等於在為此付出代價。這條引語發布於 2026 年 10 月 22 日;該條目被歸入 security、AI、LLM 與 AI 安全研究等標籤。正文只有這一句引語,沒有進一步論證或資料。
Anthropic 於 10 月 16 日發布兩份報告:其內部 AI agent 工作時長在 2026 年 3 月已超過員工,到 8 月 agent 數量是員工的 6 倍,同期初級崗位與技術崗招聘佔比下降,人均程式碼、銷售與合同處理產出上升,瓶頸轉向人的注意力。第二份報告對比近 1.1 萬名美國成年人與 Anthropic 員工的調查:91% 的員工認為 AI 能在 2030 年前做出諾獎級發現,美國成年人中僅 39%;