llama.cpp releases● 精選AI 評分62
llama.cpp 新增 Kolibri-1 支援,78B 德語英語 MoE
llama.cpp 建置 b11709 加入對 Aleph-Alpha 的 Kolibri-1 支援。這是德語/英語雙語 MoE 推理模型,78B 總引數、每 token 啟用 3.46B,50 層、384 個路由專家加 1 個共享專家,注意力以 4 層滑動視窗(視窗 513)交替 1 層全注意力,GQA 為 48 查詢頭對 4 KV 頭。
找到 2 筆;也可以試試 語意搜尋
llama.cpp 建置 b11709 加入對 Aleph-Alpha 的 Kolibri-1 支援。這是德語/英語雙語 MoE 推理模型,78B 總引數、每 token 啟用 3.46B,50 層、384 個路由專家加 1 個共享專家,注意力以 4 層滑動視窗(視窗 513)交替 1 層全注意力,GQA 為 48 查詢頭對 4 KV 頭。
德國 Aleph Alpha 在 Hugging Face 發布 Kolibri-1,總引數 78B、啟用 3.46B,支援最高 100 萬 token 上下文,採用 Apache 2.0 許可。模型基於 20T token 的英德雙語語料訓練(約 62.5% 英語、23.9% 德語、13.6% 程式碼),在 768 張 B300 叢集上訓練約 4 周。社群討論認為其基準表現接近 Qwen 3.5 35B,適合 96GB 視訊記憶體本地部署,但目前尚無量化版本。