搜尋

llama.cpp 最佳化 SYCL 短行 TOP_K，最高提速 18.5 倍

llama.cpp 合併了一項 SYCL 後端改動：當 TOP_K 的行長度不超過 work-group 大小時，改為每個 work-item 負責一列、做 k 輪 work-group argmax，並列時取較小列號，NaN 不會被選中，長行仍走原有路徑。