Transformers 推出模型整合契約 MIC，用 CPU 小模型把關 PR
Transformers 提出 Model Integration Contracts（MIC）標準：把真實 checkpoint 縮成小 fixture，配上可執行的用法範例和人工複核的基線輸出，在廉價的 CPU runner 上跑整合測試，並按 PR 改動的檔案挑選用例。它源於一次漏網事故——2026 年 7 月 30 日為 T5 啟用 SDPA 後，UMT5 解碼器能看到未來 token，該 bug 在 main 上停留了近兩個月；
用 66 MB 的 CPU fixture 復現並攔截了在 main 中潛伏兩個月的 UMT5 注意力迴歸，為 750+ 模型型別在 PR 階段做真實前向與訓練校驗提供了可複製的方案。
原標題：Transformers Model Integration Contracts
閱讀原文
| 評分 | 70 / 68（平均 69，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
KTransformers-FineTune 讓 CPU 直接算 MoE 專家，微調吞吐最高提升 21.2 倍
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune（KT-FT），讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力，LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5～21.2 倍。該方案已作為執行後端接入 LlamaFactory，CPU 側用 AVX-512/AMX 指令集計算專家，支援微調與推理在同等硬體下一鍵執行。
TorchTPU 發布：Transformers 與 Diffusers 原生支援 TPU
Hugging Face 宣布 PyTorch 原生 TPU 後端 TorchTPU 落地，Transformers、Diffusers 與 Kernels 現在可直接在 TPU 上執行，不再需要 torch_xla 或 Optimum TPU。安裝只需一條 pip 命令；
llama.cpp b11826 新增 MiniCPM-OCR 1.0 支援
llama.cpp 建置 b11826 在 mtmd 多模態模組中加入 MiniCPM-OCR 1.0 支援，本地推理可直接用上這一 OCR 模型。同批預編譯包覆蓋 macOS（Apple Silicon 與 Intel）、iOS、Android、Windows、Linux 及 openEuler，包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO 與驍龍 CPU/Adreno GPU/Hexagon NPU 後端。
用 ML Intern 幾天做出 6 個模型，9B 改寫器壓到 0.8B
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent，幾天內做出 6 個公開模型，其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本，可在 CPU 執行，輸出有效率 99.7%，token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本，算力成本 16 美元。
Meta 開源 816B 模型 Muse Spark Open，兩臺 Mac Studio 可本地執行
Meta 發布開源權重大模型 Muse Spark Open，816B 引數、42B 啟用、1M 上下文，原生多模態，面向程式碼與智慧體任務。該模型與蘋果合作，用 MLX 針對 Apple 晶片統一記憶體架構最佳化，兩臺 512G 的 M5 Ultra Mac Studio 即可本地執行，但兩臺機器售價已超過 4 萬美元。