開源

2月4日星期三 · 1 則

1. 21:27
   MLX LM releases● 精選AI 評分79

   MLX LM v0.30.6 發布：新增 Kimi-K2.5 與伺服器分散式推理

   MLX LM 發布 v0.30.6，新增 Kimi-K2.5、LongCat Flash/Lite 和 Step 3.5 Flash 等模型支援，並引入 Transformers v5。服務端加入分散式推理，支援 chat_template_kwargs、top_logprobs 與載入自訂模型，同時新增 CLI。

   模型地端推論MLX版本更新Kimi K2.5分散式推理工具呼叫

   閱讀原文