搜尋

Inco AI 開源 Splash 引擎，Apple Silicon 跑 Qwen3.8 提速約 2 倍

Inco AI 開源了面向 Apple Silicon 的推理引擎 Splash，專門最佳化 Qwen3.6-35B-A3B 與 Qwen3.8-27B。在 48 GB M5 Pro 上，Qwen3.8-27B 短提示解碼 74 tokens/s、32K 上下文 54 tokens/s，約為實測次快引擎的 2 倍，四路併發合計 170 tokens/s。