搜尋

llama.cpp 測試提速：模型儲存不再建立 llama_context

llama.cpp 建置 b11934 最佳化了測試流程，重構 save_models 使其只建立模型而不再建立儲存時用不到的 llama_context，並用 splitmix64 加 Box-Muller 生成器替換較慢的 std::normal_distribution 抽樣。張量資料改為用 std::mt19937 預先生成一組正態抽樣池，各張量按名稱迴圈取切片，保證結果確定；每次儲存模型後還會輸出檔名、目標路徑與位元組/MB 體積。