llama.cpp releasesAI 評分41
llama.cpp b11496:SYCL 模型載入改用 pinned ring buffer
llama.cpp 發布 b11496,SYCL 後端的模型載入(bulk uploads)改為通過 pinned ring buffer 分階段上傳(PR #29608),主要影響使用 Intel SYCL 後端的使用者。
找到 2 筆;也可以試試 語意搜尋
llama.cpp 發布 b11496,SYCL 後端的模型載入(bulk uploads)改為通過 pinned ring buffer 分階段上傳(PR #29608),主要影響使用 Intel SYCL 後端的使用者。
MLX 發布 v0.30.6,新增 Kimi-K2.5、LongCat Flash、LongCat Flash Lite、Step 3.5 Flash 等模型支援,並修復 Deepseek V3.2、GLM 4.7 工具呼叫等問題。該版本還加入 Transformers v5 支援、服務端分散式推理、自訂模型載入,以及 chat_template_kwargs 和 top_logprobs 引數支援。