依意思最接近的 28 筆
AWS 發布開發工具 TorchNeuron，用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上，無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch，熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游，推動框架硬體無關；Trainium 兼顧訓練與推理，AWS 強調價效比，語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
TorchNeuron 將於 2026 年 10 月 20 日進入公開測試，為 AWS Trainium 提供原生 PyTorch 後端，可用 pip install torch-neuronx 安裝。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。
NVIDIA 將於 10 月 16 日正式發布 RTX Spark，一款面向創作者、玩家和 AI agent 的 Windows PC，主打本地 AI 效能。Tom's Hardware、TrustedReviews 等媒體評測稱其遊戲與本地 AI 表現突出，Artificial Analysis 也提供了獨立測試資料。當天舊金山、柏林、臺北、北京、首爾、伊斯坦布林等地舉辦發布活動，多數需提前報名，北京場通過微信報名。
企業語音 AI 平台 PolyAI 的 CTO Shawn Wen 在 HumanX 大會上表示，全雙工模型雖已實現，語音 AI 仍未迎來自己的「ChatGPT 時刻」，下一步的關鍵是讓推理足夠快、對話足夠自然。會議記錄工具 Otter 的 CMO Alex Gay 指出，說話人識別、意圖捕捉並與組織知識結合才是自動化的關鍵，Otter 還在研發可代表參會者的數字孿生。兩人都提到 ASR 模型常漏掉關鍵詞，轉寫不準會讓後續動作全部出錯、使用者失去信任；
LiteRT 發布 Tensor API，這是一個輕量 C++ 編寫層，開發者可以逐個運算元手工建置計算圖；同一份程式碼經 LiteRT 能跑在 CPU、GPU 與 NPU 上，不必為新硬體重寫。官方用 SAM 2 演示：模型全部用 C++ 編寫，在瀏覽器 WebGPU 上配合 Gemma 4 E2B 做即時多目標分割；coding agent 把它在 512×512 下的幀率從不足 10 提升到 30 以上。
NVIDIA 加入歐盟委員會在都柏林 AI in Science Summit 上啟動的 AI in Science Enablers 計劃，將向歐洲科研界開放加速計算工具、算力與培訓。NVIDIA 已開源 250 多個模型、250 個資料集與 1400 多個開源專案，包括 Nemotron、BioNeMo、PhysicsNeMo、Earth-2 和 ALCHEMI NIM，可用於 agentic 推理與科學計算。
NVIDIA 與微軟在舊金山活動上發布 RTX Spark，把完整 NVIDIA AI 棧裝進 Windows 筆記本與緊湊桌上型電腦，筆記本即日預售、10 月 16 日發售，桌上型電腦 11 月上市。
前華為小藝多模態大模型研發負責人唐都鈺創辦觀行數智，主攻讓機器自主判斷何時介入的「主動式物理 AI」。團隊採用雙模型協同架構 ProAgent：輕量模型 StreamingJev 持續讀取環境事件流、判斷是否需要介入，Response Model 再決定回應方式與呼叫裝置，並自建評測體系 ProactiveXBench。
Meta 發布 Muse Spark Open，為讓先進模型更易獲取，該模型針對最新 MLX 框架做了最佳化，可在兩臺 Apple M5 Ultra Mac Studio 上執行。它同時支援 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp、Unsloth 等主流推理引擎，並針對 AMD、Apple、Intel 與 NVIDIA 晶片最佳化。
TypeSafe AI 以 75 億美元估值完成 8.7 億美元融資，由 Andreessen Horowitz 領投，紅杉與現有投資方 DCVC 參投。其模型 Jev 於 9 月 15 日發布，基於 transformer 架構但不是大語言模型，不輸出文字而是生成機率，公司稱之為「校準決策」，定位是自動化任務而非寫文字或程式碼。公司稱 Jev 速度明顯更快、消耗 token 遠少於 LLM，並稱已有三分之一財富 500 強企業在使用；
PS5LM 把 llama.cpp 的 Vulkan 後端搬到越獄 PS5 的 RDNA 2 GPU 上，用 11.4 GB 共享記憶體把主機變成家用模型伺服器，對外提供 OpenAI 與 Anthropic 介面，Claude Code 等客戶端可直接連。實測 Qwen 3.5 9B Q4_K_M 約 55 tokens/秒，27B 的 UD-Q2_K_XL 約 20 tokens/秒、64k 上下文；
微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會，這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構，而非 AMD、Intel 傳統的 x64，並搭配高效能 GPU，定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作，讓 Windows 適配這批新機器。
Google AI Edge 推出 ML Drift，一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉，讓開發者無需直接處理這些介面，就能在移動端與桌面端建置即時互動式 ML 體驗，覆蓋從複雜影片特效到生成式 AI 的場景。
OpenAI 產品負責人 Tibo Sottiaux 發帖預告未來模型會更擅長刪除和簡化程式碼，並在評論中確認 Astra 6.1「coming soon」。負責 coding post-training 的研究員 Rajan Agarwal 轉發該帖，並公開徵集使用者遇到的 sloppy code 與程式碼品質問題。《華爾街日報》此前報導，Astra 6.1 原計劃 10 月發布，因內部安全測試中在權限邊界上表現不穩而被臨時叫停。
Google DeepMind 官方帳號提到，Apptronik 的 Argon 能把影片變成物理 AI 的訓練場，將原本需要數週的人工建模壓縮到幾個小時。這條推文以回覆 @Apptronik 的形式發出，正文只有這一句說明和一個 goo.gle 短連結，沒有披露涉及的機器人平台、影片資料規模或可用範圍。資訊發布於 2026 年 10 月 13 日。
DeepSeek 發布 DeepSeek-V4.1-Flash-1017，該模型通過帶自我反饋的強化學習提升端到端專案開發能力，覆蓋從遊戲製作到 3D 建模的完整流程。官方以演示形式展示實際效果，未在帖文中給出引數規模、上下文長度或 API 價格等資訊。
Vercel 資料顯示，TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用，覆蓋面接近第二名 Sonnet 5.5 的兩倍，是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布，通過限定候選輸出降低推理成本、提升速度，適合大批次資料分類，Vercel 已用它替換 GPT-6 Luna 做有害命令分類。
輝達《State of AI in Telecommunications》報告顯示，89% 受訪者認為開源模型與軟體對公司 AI 戰略重要。運營商看重開源模型的可信任、可控與可定製，用於自主網路、客服等關鍵負載，並把閉源模型留給價值最高的場景；輝達同時發布 300 億引數的 Nemotron 3 Large Telco Model（由 AdaptKey 在開源電信資料集上微調），並提供基於 NeMo 的端到端微調流程。
TypeSafe AI 的 Jev 模型近期走紅，其介面可直接返回預設選項、分數或事件機率，供程式碼呼叫，但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score，僅用對錯標籤即可訓練置信度機率分佈，在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884，4 張 A40 上約 4 分鐘完成微調。
Qwen3.8-27B 已在 iPhone 18 的 Apple Neural Engine 上執行，解碼速度 15–60 tok/s；作者隨後確認 24K 上下文下 K/V 用 int8、delta net 保持 FP16，峰值可達 70 tok/s。模型基座是 PrismML 的 Bonsai-2，從 1.585 bpw 重新量化為 1.5 bpw（每 4 個權重 6 位向量量化），並加入約 2.8 bpw 的 dflash-2 草稿模型加速，代價是接受率小幅下降。
Physical Intelligence 上線 Pi API beta，把 π0、π0.5 等機器人基礎模型開放給開發者微調與託管推理。開發者上傳資料後，在官方管理的算力上啟動微調，再通過託管閘道器在自家機器人上跑推理，並用評估資料決定下一輪採集。早期合作方 Actor 的自主輪式裝載機已在無操作員的真實商業場景中裝卸物料，Almond 的雙臂機器人 Axol 用團隊迭代四天得到的模型為自身零件去毛刺。多數應用走雲端推理，部分遇到網路連線問題，beta 報名已開放。
輝達發布 Nemotron 3.5 系列開源權重模型，含 1200 億引數的企業 agent 模型 Super VL，以及面向本地 AI PC 和 DGX Spark 工作站的輕量 Bolt。輝達稱 Super VL 引數少於 Nemotron 3 Ultra，但在指令遵循與工具呼叫上準確率相近；針對文件智慧、財務、科研、醫保理賠等 agent 任務做後訓練後，完成任務快於 Anthropic 與 OpenAI 競品。
近期出現一批極窄用途的推理執行時，包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性，只針對少數模型甚至單一硬體家族（如 Strix Halo）做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態，並有助於智慧的民主化與去中心化，讓現有硬體在特定配置下榨出最大輸出。
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent，幾天內做出 6 個公開模型，其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本，可在 CPU 執行，輸出有效率 99.7%，token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本，算力成本 16 美元。
GPT-6 Astra Ultrafast 已在 OpenAI API 上線，並向符合條件的 ChatGPT Work 與 Codex 使用者開放，執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍，可縮短 coding agent 的編輯—測試—除錯迴圈，並減少工具呼叫之間的等待。開發者可通過 API 使用，訪問方式、價格與實現細節見 Ultrafast 指南。
Anthropic 週一發布研究報告，稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理，Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒；GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B，5 次試驗中 4 次全部成功。