X @awnihannun● 精選9/3 17:07AI 評分85
Qwen 27B 在 M5 Max 上輸出達 105 tok/s
Awni Hannun 稱 Qwen 27B dense 模型在 M5 Max 上輸出速度達 105 tok/s，並形容這一表現相當驚人。他同時表示這是在“一塊磚一塊磚地”突破記憶體牆。原文未說明所用推理框架、量化精度與上下文長度。
搜尋
找到 2 筆
X @lmstudio● 精選9/19 01:45AI 評分83
LM Studio 首發 Splash 引擎，M5 Max 跑 Qwen3.8-27B 達 144 tok/s
LM Studio 與 inco_ai 合作，在發布當天（day 0）就把 Splash 推理引擎接入 LM Studio。官方給出的資料是：在 M5 Max 上執行 Qwen3.8-27B，速度最高可達 144 tok/sec。想試的話可通過 LM Studio 官方部落格的連結直接跑起來。