doubleAI 發布 Maxwell：位於程式碼與硬體之間的執行模型
doubleAI 發布 Maxwell，稱其為介於程式碼與硬體之間的 Code Execution Model，能在程式執行過程中加速程式碼，且不修改任何一行原始碼。它通過 trace、profiling 資訊和流經程式的資料觀察程式，並動態適配硬體、同機其他負載與輸入形態。目前已在 heymaxwell.ai 開放早期訪問。團隊認為，針對每種硬體和資料流反覆重新最佳化（如 vLLM 這類 LLM 推理引擎）不可擴充套件。
原標題：Maxwell: A new kind of model that sits between code and hardware
閱讀原文
| 評分 | 42 / 40（平均 41，門檻 76） |
|---|---|
| 狀態 | 未入選 |
相關報導
@awnihannun: Pretty remarkable what two M5 Ultras + MLX can do now
MLX 開發者 Awni Hannun 稱，兩臺 M5 Ultra 搭配 MLX 現在能做出相當驚人的結果。推文只有這一句，沒有給出模型、任務型別、速度或視訊記憶體資料，也沒有說明是推理還是訓練。可確認的只有硬體與框架組合：雙 M5 Ultra 加 MLX。
MLX 新版發布：4 臺 Mac Studio 叢集跑 816B 模型超 36 tokens/s
MLX 今日發布新版本，支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集：4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open（816B MoE，NVFP4 精度）解碼超過 36 tokens/s，高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B，在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。
AI 設計的開源加速卡 openTPU 跑通十餘款模型
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。
兩臺 128GB Strix Halo 迷你主機各跑一個 300B 級 MoE 模型
Kyojin 引擎基於 ExLlamaV3 為 AMD Strix Halo（gfx1151、ROCm）打造，讓 GLM-5.3-Flash 與 MiMo-V2.6-Flash 兩個 300B 級 MoE 模型分別裝進單臺 128GB 迷你主機。實測在 Ryzen AI Max+ 395 上，GLM 預填充 580 tok/s、解碼 26-30 tok/s，MiMo 解碼最高 44 tok/s（程式碼場景）。
llama.cpp b11540 發布：SYCL 加速 MXFP4 MoE 推理
llama.cpp 建置版本 b11540 發布，核心變更是 SYCL 後端通過算術解碼與權重重排加速 MXFP4 MoE 模型推理（PR #29809）。該版本同時提供 macOS、Linux、Windows、Android 與 openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端；