AISpot

搜尋

找到 3 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分37

llama.cpp b11907 將 ggml_tensor** 輸出引數改為結構體返回

llama.cpp 發布 b11907 建置,把 hyper-connection 與 DSA 圖建置器原先通過 ggml_tensor** 輸出引數寫出的額外輸出(post/comb gates、保留的 top-k 選擇、inject gates)改為與主輸出一起放進一個小結構體返回。這是一次介面層面的改動,呼叫這些圖建置器的程式碼需要同步調整。

llama.cpp releasesAI 評分47

llama.cpp b11800 新增 QSA mask 融合運算元,並將 k-pool mask 推廣為通用實現

llama.cpp b11800 為 QSA 新增融合運算元,並將原本只服務 qwen4exp 與 glm5-next 池化選擇的 k-pool mask 推廣為通用 ggml_top_k_mask,DSA 模型與 DeepSeek V4 CSA 也改用該運算元。它保留 top-k 選中與額外保留的 mask 單元、其餘置為 -inf,可按 head 逐行選擇,後端不支援時回退原路徑。