llama.cpp releasesAI 評分45
llama.cpp 修復深層巢狀 JSON 致服務崩潰
llama.cpp 發布 b11871，在遞迴遍歷前先檢查 JSON 巢狀深度，超過 128 層直接返回 400，避免請求打爆 HTTP 執行緒棧、讓 llama-server 崩潰。此前 schema builder、jinja 引擎與決策程式碼都遞迴遍歷請求 JSON，macOS 上幾百層深的工具 schema 就會觸發 SIGBUS，Linux 約一萬層觸發 SIGSEGV。
搜尋
依意思最接近的 12 筆
llama.cpp releasesAI 評分37
llama.cpp b11539 應用上游深層巢狀 JSON 補丁
llama.cpp 發布 b11539 建置，唯一程式碼改動是應用來自上游的深層巢狀 JSON 補丁（#30253）。各平台預編譯包照常提供，覆蓋 macOS/iOS、Ubuntu（CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL）、Android、Windows 以及 openEuler。其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置本次被標記為 DISABLED。
llama.cpp releasesAI 評分46
llama.cpp 修復 jinja tojson 浮點數精度丟失
llama.cpp 新建置 b11622 修復了 jinja 模板 tojson 的浮點數輸出。此前 tojson 通過 C++ 流列印浮點，只有 6 位有效數字且省略 .0，48.858844 會變成 48.8588、1.0 變成 1，影響工具定義、工具呼叫引數和其他模板輸出。現在改為輸出能讀回同一數值的最短數字，與 Python 的 json.dumps 一致，float 的 string 與 safe 過濾器也共用這段邏輯。
llama.cpp releasesAI 評分48
llama.cpp 修復 Ling 3.0 解析器忽略 json_schema 的問題
llama.cpp 合併 PR #29813，讓 Ling 3.0 解析器開始遵循 inputs.json_schema。此前 Ling 3.0 只為工具呼叫建置語法，response_format 請求不受約束；新實現加入優先於工具的回應格式語法路徑，並在啟用思考時要求先輸出 think 塊、JSON 回應後不允許追加散文。該修復對應 issue #29652，隨新版建置覆蓋 macOS、Linux、Windows、Android 等平台。
Latent Space● 精選AI 評分87
DeepSeek 開源推理棧 DeepInfer，單叢集日處理 155 萬億 token
DeepSeek 開源了生產推理棧 DeepInfer，它基於 vLLM 定製、採用 Apache 2.0 許可，支援最長 72 小時 prompt 快取、投機解碼與結構化輸出，相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s，按非高峰電價折算單卡每小時收入 38 美元，毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源；
llama.cpp releasesAI 評分41
llama.cpp b11882 限制語法遞迴深度以防棧溢位
llama.cpp 發布 b11882 建置，核心修復是為語法解析的遞迴深度設上限，防止棧溢位（#29495、#29755）。同時更新了各平台預編譯包：macOS Apple Silicon、iOS XCFramework、Windows 與 Linux 的 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等；
Hacker News front page● 精選AI 評分81
DeepSeek 開源推理引擎 DeepInfer，支援 V4.1-Flash
DeepSeek 以 Apache 2.0 協議開源了支撐其大規模生產服務的推理框架 DeepInfer，目前僅支援 DeepSeek-V4.1-Flash 一個模型。該框架包含 FlashMLA、DeepGEMM、DeepEP 等最佳化核心，Attention DP 與 MoE EP+EPLB 並行，DSpark 投機解碼（草稿長度預設 5），以及預設開啟的非同步排程、批不變推理、確定性取樣，並支援正則、JSON schema、EBNF 結構化輸出。
TechCrunch AI● 精選AI 評分80
Vercel：Jev 上線兩週被 35% 付費團隊採用，創最快紀錄
Vercel 資料顯示，TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用，覆蓋面接近第二名 Sonnet 5.5 的兩倍，是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布，通過限定候選輸出降低推理成本、提升速度，適合大批次資料分類，Vercel 已用它替換 GPT-6 Luna 做有害命令分類。
X @deepseek_ai● 精選AI 評分71
DeepSeek-V4.1-Flash-1017 發布，主打端到端專案開發
DeepSeek 發布 DeepSeek-V4.1-Flash-1017，該模型通過帶自我反饋的強化學習提升端到端專案開發能力，覆蓋從遊戲製作到 3D 建模的完整流程。官方以演示形式展示實際效果，未在帖文中給出引數規模、上下文長度或 API 價格等資訊。
Ollama releases● 精選AI 評分75
Ollama 上線 Recursive Flint 40B 編碼模型
Ollama v0.40.8 加入 Recursive 的編碼模型 Flint，執行 ollama run flint 即可執行。Flint 採用 Apache 2.0 許可，是 40B 引數的混合專家（MoE）模型，每個 token 約啟用 2.5B 引數，支援推理、多輪工具呼叫與 262K token 上下文，面向跨倉庫的程式碼理解、缺陷追蹤、功能實現與補測試。
X @deepseek_ai● 精選AI 評分61
DeepSeek 開源 deepseek-recipe 分詞編解碼元件
DeepSeek 將其生產環境使用的 token 編碼與解碼元件 deepseek-recipe 開源。該元件的處理邏輯與官方 DeepSeek API 對齊，目的是讓社群自行部署的服務復現相同的 API 行為。這條訊息是該發布執行緒中的第 3 條，官方只給出倉庫連結，未說明許可證與適用範圍。
機器之心● 精選AI 評分90
DeepSeek 上線 V4.1-Flash-1017，引數量升至 763B
DeepSeek 於 10 月 17 日把 V4.1 Flash 升級為 V4.1-Flash-1017，網頁端、App 與 API 同步切換，API 呼叫方式不變。新模型引數量 763B，高於 V4.1F 的 552B；Terminal-Bench 4.0 從 31.2 升至 42.3，max 檔每任務平均費用從約 3.3 元降至約 1.3 元，API 單價保持不變，權重以 MIT 許可在 Hugging Face 與 ModelScope 開放下載。