AISpot

llm-tools-datasette 0.1.1 發布,修復 LLM 0.33 相容問題

Simon Willison版本更新開發工具開源

llm-tools-datasette 0.1.1 發布,修復因 LLM 0.33 改用 httpx2 而導致的外掛失效問題。該外掛的作用是把 Datasette 例項作為工具暴露給 LLM。作者 Simon Willison 稱,LLM 0.33 切換到 httpx2 時,他忘了這會讓所有使用 httpx 卻沒有直接宣告該依賴的外掛出問題,llm-tools-datasette 正是其中之一,現已修復。

原標題:llm-tools-datasette 0.1.1
閱讀原文

評分35 / 35(平均 35,門檻 65)
狀態未入選

相關報導

X @ggerganovAI 評分42

llama.cpp v0.7.0 發布,llama serve 新增懶載入與推測解碼

llama.cpp 發布 v0.7.0,作者給出的範例命令是 llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on。命令通過 -hf 指定 Hugging Face 上的 Qwen3.8-Flash-Next GGUF 倉庫及 IQ4_NL 量化,並同時開啟 --lazy-mode 懶載入與 --spec-type draft-mtp 推測解碼。

llama.cpp releasesAI 評分44

llama.cpp 新增 IBM Granite Switch 決策模型支援

llama.cpp 發布 b11700,新增對 IBM Granite Switch 決策模型的轉換與推理支援,改動覆蓋 convert、common 與 server,模板參考 granite-switch-4.1-8b。開發中曾加入 decision.chat 讓決策模型兼作聊天,隨後被回退,最終確定為只要 Granite Switch 支援決策就始終支援文字,server README 也同步更新。