TorchTPU 發布:Transformers 與 Diffusers 原生支援 TPU
Hugging Face 宣布 PyTorch 原生 TPU 後端 TorchTPU 落地,Transformers、Diffusers 與 Kernels 現在可直接在 TPU 上執行,不再需要 torch_xla 或 Optimum TPU。安裝只需一條 pip 命令;
依意思最接近的 30 筆
Hugging Face 宣布 PyTorch 原生 TPU 後端 TorchTPU 落地,Transformers、Diffusers 與 Kernels 現在可直接在 TPU 上執行,不再需要 torch_xla 或 Optimum TPU。安裝只需一條 pip 命令;
Transformers 提出 Model Integration Contracts(MIC)標準:把真實 checkpoint 縮成小 fixture,配上可執行的用法範例和人工複核的基線輸出,在廉價的 CPU runner 上跑整合測試,並按 PR 改動的檔案挑選用例。它源於一次漏網事故——2026 年 7 月 30 日為 T5 啟用 SDPA 後,UMT5 解碼器能看到未來 token,該 bug 在 main 上停留了近兩個月;
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。
研究者提出 Dust,稱這是首個在預訓練 Transformer 語言模型上與反向傳播有競爭力的零階方法。它不擾動權重,而是在每個 token 上獨立擾動啟用(node perturbation),把每個 token 當作一個虛擬種群成員,一次前向傳播即可並行評估全部成員。論文稱在種群規模足夠大(即算力顯著更多)時 Dust 接近反向傳播,部分設定下甚至超過;
Q Labs 發布 Dust,這是一種不依賴反向傳播、能在 Transformer 預訓練任務上與反向傳播競爭的零階最佳化方法:它在每層啟用值上按 token 獨立新增高斯噪聲,一次前向傳播即可並行評估數千個「虛擬種群」成員,並據此估計梯度。團隊在 FineWeb 上最大隻驗證到 2.43 億引數、2000 萬 token,並稱在大規模種群下可逼近甚至超過反向傳播,但成本仍高几個數量級;第三方復現認為其優勢有限,反向傳播換用更合適的最佳化器後會明顯領先。
TypeSafe AI 以 75 億美元估值完成 8.7 億美元融資,由 Andreessen Horowitz 領投,紅杉與現有投資方 DCVC 參投。其模型 Jev 於 9 月 15 日發布,基於 transformer 架構但不是大語言模型,不輸出文字而是生成機率,公司稱之為「校準決策」,定位是自動化任務而非寫文字或程式碼。公司稱 Jev 速度明顯更快、消耗 token 遠少於 LLM,並稱已有三分之一財富 500 強企業在使用;
Ai2 推出 StateBench,一個按四檔難度衡量語言模型在長文件中追蹤實體狀態變化的基準。結果顯示:迴圈與混合架構(如加入 Gated DeltaNet 層的 Olmo Hybrid)在直接訓練後泛化能力遠超 transformer,而 Gemini 3.8 Flash、Claude Opus 5.5、GPT-6 Sol/Luna 等前沿模型在輸入變長、依賴鏈變複雜時仍會失效。
螞蟻靈矽大模型應用平台團隊開源自動最佳化框架 AntOmniEvo,使用者只需提供可修改的檔案目錄、評估資料、打分標準和系統定義,框架就會驅動 coding agent 在「改檔案—打分」迴圈中 7×24 迭代。核心演算法 Mara Chain 讓未達標的候選帶著診斷記錄繼續修復,配合逐題 Pareto 過濾,避免過早淘汰有潛力的候選。
arXiv 上提交的 UniEvo-VL 提出一種 on-policy 自蒸餾訓練方法:讓同一個多模態模型分別以學生和教師身份出現,學生只看原始問題,教師額外看到自我批評作為特權資訊,訓練目標是縮小兩者在取樣軌跡上去噪擴散分佈的差異,無需依賴更大的外部教師模型。基於開源 Qwen-image-2512,GenEval 從 0.747 升至 0.808,GenEval2 Soft-TIFA 從 32.97 升至 35.53。
TypeSafe AI 的 Jev 模型近期走紅,其介面可直接返回預設選項、分數或事件機率,供程式碼呼叫,但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score,僅用對錯標籤即可訓練置信度機率分佈,在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884,4 張 A40 上約 4 分鐘完成微調。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
輝達發布開放權重模型 Nemotron 3.5 Transcribe,用同一個 checkpoint 同時完成轉寫、說話人分離、翻譯與音訊問答,已在 Hugging Face 和 ModelScope 上線。它支援 40 種語言轉寫、31 種語言與英語互譯、13 種語言的說話人區分,可處理最長 1 小時錄音、標註最多 8 位說話人,並支援用自然語言提示控制輸出格式與專業術語。
AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
Google 在 PyTorch Conference 2026 上開源 TorchTPU,讓 TPU 與 GPU、CPU 並列,成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發;在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署,vLLM、SGLang、Ray、TorchTitan 等已同步接入。
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
Adobe Research 與 UCLA 提出 Tev 訓練方案:27B 模型在 Agents' Last Exam 計算與數學子集上 Pass@5 達 0.28,追平 GPT-6 Astra 與 Claude Opus 5。做法是先建置含隱藏標準答案的潛在世界再用它渲染出任務環境,據此合成覆蓋 7 個領域、1,170 個環境的 Tev-Gym,單次 rollout 中位耗時 12.4 分鐘、Pass@1 僅 29%。
記憶張量開源 MemT 1.0 系列記憶原生模型,最大型號 Flash 總引數 288B、啟用 17B,較小的 Nano 為 36B 總參、3B 啟用。兩者分別在選定的 Transformer 模組里加入與原注意力並行的記憶分支,把經驗編碼成可更新的內部矩陣狀態,據稱為記憶原生模型首次做到近 300B 引數規模的工程驗證。在 SWE-bench Verified 的 500 項任務各跑三次中,Nano 三次全成功率由無經驗的 54.00% 升至 62.80%;
研究者在鋼琴 MIDI 上預訓練的 transformer Aria 上做微調,用 12 位爵士鋼琴家的獨奏資料並插入門控交叉注意力層,讓模型按指定鋼琴家風格續寫。用鋼琴家分類器沿生成片段滑動判定,帶條件的續寫有 70% 被認成目標鋼琴家,不帶條件只有 37%,隨機為 8%,而困惑度幾乎分不出兩者(6.82 對 6.96)。僅在生成音樂上訓練的第二個分類器識別真實錄音的準確率達 95%,模型還可標出真實演奏中風格最集中的段落。
輝達發布免費開源權重語音轉寫模型 Nemotron 3.5 Transcribe,支援最多 40 種語言,可處理長達一小時的錄音、區分最多 8 位說話人,並能在 31 種語言與英語之間互譯。該模型為 300 億引數,官方稱可執行在單顆晶片上,涵蓋 Jetson AGX Thor、DGX Spark 與 Blackwell 資料中心晶片;同期還發布了開源語音資料集 Granary 第二版。主要限制是只能處理已錄製音訊,不支援即時直播流。
IBM Research 的 ALTK-Evolve 用 GPT-4.1 加標準 ReAct 腳手架,在客服基準 τ²-bench 零售域拿到 67.5% Pass^4(即四次獨立嘗試全部通過的任務佔比),高於其 2026 年 10 月 12 日榜單快照中的所有零售條目。方法不改模型權重:由同一模型分析訓練任務的成功與失敗軌跡,蒸餾成簡短行為準則——如先驗證使用者身份、每步只做一個動作——再追加到系統提示,無需人工標註。
Vercel 資料顯示,TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用,覆蓋面接近第二名 Sonnet 5.5 的兩倍,是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布,通過限定候選輸出降低推理成本、提升速度,適合大批次資料分類,Vercel 已用它替換 GPT-6 Luna 做有害命令分類。
班·艾佛列克在引述中表示,視覺特效工作流多年來一直包含機器學習,他把卷積神經網路(CNN)稱為 transformer 的前身,區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」,並解釋張量是畫面在數值上的翻譯——批次號、幀號,以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取,識別出窗臺在哪裡,就能更容易地把綠幕部分摳掉並替換成別的內容。
輝達與滑鐵盧大學開源 PixelUMM,一個不依賴 VAE 和 ViT、直接在畫素空間統一影像與影片理解及生成的多模態模型。它用單層線性投影把影像 patch 和影片 tubelet 接入以 Qwen3 初始化的 Mixture-of-Transformers 主幹,理解與生成共享注意力,沒有視覺編碼器、VAE 或離散視覺 tokenizer,程式碼和權重均已開源。模型可直接生成 832×464、96 幀(4 秒、24fps)影片;
德國 AI 公司 Aleph Alpha 於 2026 年 10 月 3 日發布開源權重模型 Kolibri,總引數 78B、啟用引數 3B,支援最長 1M token 上下文,權重已在 Hugging Face 開放下載,採用 Apache 2.0 許可。該模型為英德雙語 MoE Transformer,面向公共管理、工業與航空航天等受監管領域,在 AIME 2025 上得分 96.9,官方稱其效能可對標啟用引數四倍於己的模型。
輝達與麻省理工學院團隊在 Hugging Face 放出影片增強專案 Open-H3-Regenerate-2K 的模型權重,配套推理程式碼開在 NVlabs/Sana 倉庫,可自行部署把低解析度影片草稿重生成到 2K、最高 4K。方案基於 MiniMax H3 基礎模型,凍結 Transformer 主幹與影片 VAE,只訓練細化 LoRA,推理時經三步去噪補充畫面細節。
OpenAI 的 Sam Altman 在阿布扎比 ADIPEC 2026 上透露,9 月公布的三維納維–斯托克斯方程突破,是由 1 萬個由下一代 GPT 驅動的 Agent 完成的。這些 Agent 沒有層級、也沒有統一負責人,各自探索方向並共享進展,協同執行約 4 天:核心數學探索約 88 小時,交換 270 萬條訊息、生成約 1300 億 Token,隨後由 GPT-6 Astra 用 17 小時完成 Lean 形式化驗證。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
輝達宣布計劃投資 Doctolib、Entalpic、Genesis AI 和 Pigment 四家法國初創,方向分別是醫療智慧體、原子級材料工程、通用機器人和企業規劃平台。輝達稱其在歐洲技術生態的累計承諾投入已接近 100 億美元,此前還投資過 Alice&Bob、Gradium 和 Scintil Photonics。