LLM CLI 0.37 發布:新增 gpt-6.1-sol 與 terra,預設模型換成半價的 gpt-6-luna
LLM CLI 與 Python 庫發布 0.37,新增 gpt-6.1-sol、gpt-6.1-terra 兩個模型,並把未自行設定預設模型的使用者預設切到 gpt-6-luna,價格是此前預設 gpt-5.6-luna 的一半。新版本還加入 llm openai endpoint add 命令,方便配置使用 OpenAI 相容介面的額外模型;
預設模型換成價格減半的新型號,同時補上兩個 6.1 模型與 OpenAI 相容端點配置命令,對用 LLM CLI 跑批次任務、接自建端點的開發者影響最直接。
原標題:llm 0.37
閱讀原文
| 評分 | 68 / 76(平均 72,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
GPT-6.1 Terra 上線 ChatGPT Work 與 Codex,並開放 API
OpenAI 已開始推送 GPT-6.1 Terra,Plus、Pro、Enterprise 和 Edu 使用者可在 ChatGPT Work 與 Codex 中使用該模型。開發者也能通過 OpenAI API 以 gpt-6.1-terra 的模型名接入。推文中未提及價格、上下文長度與使用額度,更多細節需檢視 OpenAI 官方介紹頁。
llama.cpp 新增 LiquidAI LFM3-Audio 與 LFM3-Omni 2B 支援
llama.cpp 已合併對 LiquidAI LFM3-Audio-2B 與 LFM3-Omni-2B 兩個音訊模型的支援。轉換指令碼改為按模型自帶的 config.json 讀取,並按 model_type 自動識別;LFM3-Audio 的 depthformer 關閉 flash attention,編碼器卷積與 codec 保持不量化。
llama.cpp v0.6.0 發布:新增擴充套件 batch API 與 GLM-5.3-Flash 支援
llama.cpp 發布 v0.6.0,新增 llama_batch_ext 擴充套件 batch API,支援混合 token/embedding 輸入與 MTP、deepstack 狀態嵌入。本次加入 320B 的 GLM-5.3-Flash(GLM5-Next)文字+視覺混合模型、Clef 決策模型,以及 Qwen4Exp 的 MTP 投機解碼,官方稱在 DGX Spark 上解碼約快 1.5 倍。
llama.cpp 新增 clef 決策模型純文字支援
llama.cpp 合併 PR #29831,為 clef 決策模型加入初始支援,目前僅限純文字輸入。該改動同時更新了 gguf-py 常量並清理了靜態圖相關程式碼,隨附的建置產物覆蓋 macOS、Linux、Windows、Android 與 openEuler 等多個平台。
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572,新增對 vLLM d3 模型的支援(d2 同步更新),並加入 pplx-decider 模型支援,同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。