X @ggerganov● 精選9/22 14:00AI 評分83
transformers 現可直接執行 GGUF 模型
ggml 作者 ggerganov 宣布，transformers 現在可以直接執行 GGUF 模型。這項工作把 ggml 的 Metal 核心引入 transformers 生態，提升了相容性與效能。更多細節見其後續說明。
搜尋
找到 2 筆；也可以試試 語意搜尋
MLX LM releases● 精選2/4 21:27AI 評分79
MLX LM v0.30.6 發布：新增 Kimi-K2.5 與伺服器分散式推理
MLX LM 發布 v0.30.6，新增 Kimi-K2.5、LongCat Flash/Lite 和 Step 3.5 Flash 等模型支援，並引入 Transformers v5。服務端加入分散式推理，支援 chat_template_kwargs、top_logprobs 與載入自訂模型，同時新增 CLI。