依意思最接近的 26 筆
近期出現一批極窄用途的推理執行時，包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性，只針對少數模型甚至單一硬體家族（如 Strix Halo）做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態，並有助於智慧的民主化與去中心化，讓現有硬體在特定配置下榨出最大輸出。
Anthropic 的 Cowork 新版本把模型推理和 VM 都放到雲端執行，每個會話獲得獨立沙箱，不與其他會話共享狀態。舊版本只在雲端做推理，工具呼叫由 Anthropic 隨桌面端下發的本地 VM 執行，使用者抱怨磁碟、電量和效能開銷，且合上筆記本工作就會停止。新架構下當雲端 VM 需要使用者裝置上的檔案時，由桌面應用負責該檔案訪問的工具呼叫。官方稱這解決了用手機使用 Cowork、任務持續執行以及不犧牲電池等問題。
Google DeepMind 發布一期播客，討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用，並講解不可感知水印如何保護數字媒體與生物設計，時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI（遞迴自我改進）論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料：AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%，Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理，並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果，而 LLM 的思維鏈仍只是預測下一個 token，缺少可檢查的認知狀態、知識與推理的分離，且常事後編造解釋。Yann LeCun 表示讚賞，認為真正推理必須涉及搜尋。
作者發布專為 RTX5090 打造的推理引擎 MegaCapybara，聚焦 Qwen3.8 27B，解碼速度約為此前 SOTA 引擎 Ninfer 的兩倍：單任務編碼可達 500+ t/s，12 個 agent 併發、800k 上下文時可達 2000+ t/s。引擎具備 VRAM-RAM-DISC 快取管理、雙層 Loop Guard、帶後設資料的自研權重格式（可對比 BF16 顯示 KL 與 top-1% 損失）以及圖形介面，採用 MIT 許可，原始碼與權重建置器後續發布。
OpenAI Codex 負責人 Tibo 的 28 天計劃首日，官方宣布 GPT-6 Astra 與 GPT-6.1 Sol 預設推理速度提升約 50%、達 50TPS，覆蓋官方訂閱及 OpenCode、Amp 等第三方接入，但網友實測僅約 35TPS。同期 OpenAI 在 ChatGPT 影像生成中測試視覺廣告，並將在幾週內為歐盟地區 ChatGPT 和 Codex 生成的文字加隱形水印。
OpenAI 開發者帳號宣布，Decisions API 現已進入公開測試，面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作，官方給出的對比資料是：經由 Responses API 呼叫時，其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
OpenAI 於 2026 年 10 月 6 日發布由內部前沿模型產出的多項數學結果，以 GitHub 倉庫形式公開，併為其中許多證明提供 Lean 形式化驗證。倉庫同時給出 10 份模型推理摘要、以 ChatGPT Pro 用量折算的算力估算，以及嘗試題目數量的統計，平均每個結果約消耗相當於 3 小時 ChatGPT Pro 思考的算力。
Ai2 於 2026 年 10 月 2 日開源 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，採用 SFT 加 DPO 而非強化學習。它已作為 Asta 的 Fast 模式上線，與 Claude 驅動的 Thinking 模式並列，整條流水線平均每份報告 51.1 秒，比 Thinking 模式的 178.5 秒快約 3.5 倍。
Ai2 開源了 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，已作為 Asta 的 Fast 模式上線。官方稱 Fast 模式平均 51.1 秒生成一份報告，比 Claude 驅動的 Thinking 模式 178.5 秒快約 3.5 倍。模型權重、訓練資料與範例工作流一併開放，機構可在自有基礎設施上本地生成報告。
GPT-6 Astra Ultrafast 已在 OpenAI API 上線，並向符合條件的 ChatGPT Work 與 Codex 使用者開放，執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍，可縮短 coding agent 的編輯—測試—除錯迴圈，並減少工具呼叫之間的等待。開發者可通過 API 使用，訪問方式、價格與實現細節見 Ultrafast 指南。
開發者 roofkid 發布 Ninfer 4080，在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ，實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮，程式碼已在 GitHub 開源並提供 Docker 映象。
Cloudflare 發布兩個自研決策模型 Clef 與 Clef-flash，託管於 Workers AI，並以 Apache 2.0 許可在 Hugging Face 開源，可本地執行。Clef 在 Jev Decision Index 上排名第一，具備視覺編碼器與 64k 上下文視窗，中位延遲 209.3ms，快於 Jev 的 524.1ms。同時推出強化學習微調產品，供使用者按自身場景微調 Clef。
微軟聯合 Hugging Face 推出 ThinkingBox 基準，通過 Hugging Face 提供，不看 agent 的回覆文字和工具呼叫，只檢查它留在後端資料庫裡的最終狀態與副作用，每個任務重複跑 20 次。在 507 個有狀態業務流程、12 個模型、121,680 次有效試驗中，79,853 次未通過可執行檢查，其中 67.24% 仍乾淨收尾且無工具報錯。
OpenAI 產品負責人 Tibo Sottiaux 發帖預告未來模型會更擅長刪除和簡化程式碼，並在評論中確認 Astra 6.1「coming soon」。負責 coding post-training 的研究員 Rajan Agarwal 轉發該帖，並公開徵集使用者遇到的 sloppy code 與程式碼品質問題。《華爾街日報》此前報導，Astra 6.1 原計劃 10 月發布，因內部安全測試中在權限邊界上表現不穩而被臨時叫停。
數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏，稱 AI 無休止加速卻對後果一無所知，並稱之為 Proof Indigestion（證明消化不良）：AI 只在生成解答與 Lean 驗證上狂飆，理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信，批評把數學當 benchmark 刷分。OpenAI 隨後回應，宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組，但宣告寫明該小組不就數學上的內部進展提供建議。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具，並以開放形式供研究使用。該工具面向科研人員，目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
OpenAI 公布應對歐盟 AI 法案的文字溯源方案：全球 API 客戶即日起可為部分模型選擇開啟文字水印（預設關閉），未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印，檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞，在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%，數學等用詞受限內容明顯更低；
OpenAI 兌現 28 天連更承諾的第 1 天更新：GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%，輸出從 30 TPS 提到 50 TPS，使用者無需操作、兩小時內生效，並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。
輝達 Inception 計劃的多家初創公司正用 AI 補乳腺癌篩查、風險評估與治療規劃的缺口。iSono Health 的 FDA 許可 ATUSA 可穿戴自動 3D 超聲每側乳房約 2 分鐘完成成像，傳統手持超聲最長需 45 分鐘，其敏感度稱高出 28%，已在加州、德州等地診所商用，並啟動 3200 人臨床研究。Whiterabbit.ai 的 FDA 許可 WRDensity 軟體自動評估乳腺密度，已用於數十萬患者；
Cloudflare 的 Web Search API 進入公測，讓 AI agent 與應用能聯網搜尋，用即時資訊替代猜測 URL 或依賴模型訓練截止日期。上線時可選 Ceramic.ai、Exa、Linkup 三家搜尋提供商，三家均支援通過 Cloudflare 發起的請求零資料保留，並承諾遵守 Cloudflare 的驗證爬蟲標準。
llama.cpp 最新建置已加入 Decision 模型支援，新增 /v1/systemone 端點，可在本地進行 Jev 風格推理，兼顧效率與隱私。目前支援多個開源模型，官方表示後續還會增加更多模型。
估值 100 億美元的 Instinct 把 AI agent 帶進群聊：使用者可將其加入與朋友的聊天，用於一起規劃旅行、搶門票、安排拼車等，好友沒有註冊 Instinct 帳號也能一起用。該功能先向 early access 使用者開放，之後擴充套件到全部使用者，使用者可讓 agent 把自己加入試用名單。Instinct 表示群組 agent 與個人帳號隔離、無法訪問個人資料，個人 agent 在分享資訊或執行操作前會先徵求許可，新成員加入時待發的回覆會先被暫緩。