AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分43

llama.cpp 的 server 讓 RERANK 端點支援多模態輸入

llama.cpp 建置 b11818 讓 server 的 RERANK 端點支援帶型別的 content 輸入,可直接傳入多模態內容。當模型沒有 rerank chat template 時,服務端會明確拒絕多模態輸入,而不是像此前那樣靜默丟棄圖片;媒體下載或 base64 解碼失敗、top_n 為負數也改為返回 400 而不是 500。README 同時補充說明:TEI 的輸入格式與 Jina 保持一致。