llama.cpp 改進 RPC 張量傳輸日誌,修復命令名顯示
llama.cpp 合併 ggml RPC 張量傳輸日誌改進(#30481):新增 rpc_log_format_size(),在客戶端、服務端與傳輸層日誌中以 KiB/MiB/GiB 列印位元組數;新增 rpc_log_format_tensor(),在 set/get/memset/copy/init 張量日誌中帶上張量名、運算元、型別與形狀。
找到 22 筆
llama.cpp 合併 ggml RPC 張量傳輸日誌改進(#30481):新增 rpc_log_format_size(),在客戶端、服務端與傳輸層日誌中以 KiB/MiB/GiB 列印位元組數;新增 rpc_log_format_tensor(),在 set/get/memset/copy/init 張量日誌中帶上張量名、運算元、型別與形狀。
llama.cpp 的 RPC 後端把 GGML_RPC_DEBUG 從開關改為詳細度等級:0 或未設定關閉除錯日誌,1-3 依次輸出事件、逐命令 trace 與傳輸細節,非數字值回退為 1。
馬斯克在 X 上發帖,指向 x.ai 的變更日誌頁面 x.ai/changelog/bot,用於追蹤 Grok Bot 與 Build 的更新記錄。帖子本身沒有附加說明,只給出這一連結。
llama.cpp 發布建置 b11562,修復原始碼拆分後 32 位平台上 Vulkan 緩衝區日誌無法輸出的問題:把 vk::Buffer 的流運算子移到共享標頭檔案,使 ggml-vulkan-debug.cpp 能引用到它。
llama.cpp 發布每日建置 b11592,ggml-cuda 的 CUDA graph 除錯日誌改為只在設定 GGML_CUDA_GRAPH_DEBUG 後才輸出,並移除了這部分日誌的 NDEBUG 編譯開關。同一批提交把 CUDA 環境變數的讀取改成靜態常量快取,程序內只查詢一次,不再每次呼叫重複讀取。
llama.cpp 發布 b11401 建置,修復 router 模式下子程序狀態命令與日誌共用同一管道導致命令被漏讀的問題,改為子程序 stdout 專用於命令、其餘輸出重定向到 stderr。日誌顏色重置位置調整到換行符之前,使每行顏色自包含,避免汙染下一條命令。Windows 控制台現在會在開啟顏色時啟用虛擬終端模式,無法渲染 ANSI 的終端則保持關閉顏色。
llama.cpp 合併 PR #29794,為 Vulkan 後端的管線編譯問題新增日誌輸出,便於定位著色器編譯失敗。該改動隨 b11349 版本發布,覆蓋 Ubuntu 與 Windows 的 x64 Vulkan 建置,同時該版本繼續提供 macOS Apple Silicon、CUDA 12/13、ROCm 10.0、SYCL、OpenVINO 等平台建置。
有開發者主張,訂閱制前端自帶的用量面板不足以支撐工程決策,LLM 代理應當自己託管。自建代理可在單一端點聚合多家供應商與模型,記錄哪個金鑰在何時、用哪個客戶端呼叫了哪個模型及其狀態,並用虛擬 API key 避免主金鑰散落在各類 agent 與工具中,還能快速切換模型而不必重新配置。作者不推薦具體代理服務,只建議部署在自己可控的環境並按需改造,例如增加自訂 MCP server 端點;其代理帶 API,編碼會話中的快取未命中可在約 20 秒內手工定位,也可自動化。
Claude Code 發布 v2.1.293,新增 Claude Haiku 5.5(claude-haiku-5-5),現為 Anthropic API 上預設的 Haiku 模型,提供 1M 上下文,價格為每百萬 token 輸入 0.10 美元、輸出 0.50 美元,prompt 超過 100K 時升至 0.50/2.50 美元。
LM Studio 的 Bionic 更新到 1.1.8,新增對 /v1/systemone 與 /v1/decisions 兩個 API 的支援,並支援 Bionic 與 LM Studio 同時執行。LM Studio 官方在更新日誌中一併列出這兩項改動,連結為 lmstudio.ai/changelog/bionic-v1.1.8,未附更多說明。
llama.cpp 發布 b11683 版本,Vulkan 後端修復了 GPU 可見主機記憶體的相關問題,並減少主機指標匯入失敗時的日誌刷屏。該版本把 MoltenVK 排除在共享記憶體匯入之外,同時因 amdgpu 效能問題,在 AMD 上停用了主機記憶體緩衝區共享。
Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。
Pi 1.0.2 已發布,可從 npm 下載,GitHub 上有對應 release 與更新日誌。本次新增的 samplingParamsByThinkingLevel 寫入 models.json 後,可在相容 OpenAI 的 API 上按不同思考等級分別覆蓋 temperature、top_p 等取樣引數。該功能由 @mrexodia 提交(#9776),官方文件給出了按思考等級配置取樣的說明。
用 Rust 編寫的開源可觀測性資料湖 Parseable 在 Hacker News 上展示,官方稱可每分鐘處理 1 億條時間序列。它原生支援 OTel、PromQL 與 SQL,資料以開放 Parquet 列式格式存放於物件儲存,採用無狀態架構,日誌、指標、分散式追蹤、告警與儀表盤都整合在單個二進位制內。
Codex app 26.803 發布,本次更新以效能改進和錯誤修復為主。修復了在 Find 中鍵入內容會誤改當前開啟程式碼檔案的問題,並在把對話遷移到 worktree 時保留原先選定的模型與思考等級。@ 提及的搜尋改為不區分大小寫。更新日誌僅列出這三項,未說明其他改動。
llama.cpp 的 Hexagon 後端新增可配置的 HTP DCVS/HMX 功耗模式。該功能通過 run.py 的 --hex-power-mode 標誌暴露,對應環境變數 GGML_HEXAGON_POWER_MODE,沿用已有的 --hex-nhvx 模式。由於變數必須在程序接觸 Hexagon 後端登錄檔之前設定,官方沒有把它做成通用的 CLI 選項。同一 PR 還讓 HTP 在 DCVS 功耗配置下保持喚醒,並清理了註釋與日誌。
Google Cloud API Gateway 現在可作為原生遠端 MCP 伺服器,無需自建中介軟體即可把 REST API 暴露給 AI agent。開發者在現有 OpenAPI 3.x 規範中新增 x-google-api-management.mcp 等註解,就能把標準 REST 操作轉為可被 agent 發現的工具;閘道器會自動將 MCP JSON-RPC 請求轉碼為 REST 呼叫,現有認證、配額與日誌策略繼續生效,無需新增基礎設施。
Codex app 26.901 是一次以效能改進和錯誤修復為主的更新。此版修復了設定重新整理時模型選擇器意外關閉的問題,並區分了成功提交的反饋與失敗的診斷上傳;同時解決了遠端會話在主機變更後重新開啟時卡住的問題,還讓應用重啟後仍保留自動連線 SSH 主機的偏好設定。更新日誌未提及新功能。
一個不含 LLM agent 的 Jev 驅動診斷管線,在 SREGym-Lite 的 21 個故障、105 次診斷中通過 80 次(76.2%),中位診斷時間 14.6 秒。管線先用程式化收集器讀取 Kubernetes 物件、事件、近期 Pod 日誌與資源用量,按元件彙總後交給 Jev,由它在給定選項中選出可能根因、判斷元件是源頭還是下游受害者,並挑出關鍵證據,再組裝成診斷報告。Jev 全程只做選擇,不生成命令也不寫報告;
一位獨立開發者用 Grok Bot 的多智慧體團隊代管自己的產品 PromptBase 一週,其間專案機器人還在他睡覺時自主上線了一個新功能。Grok Bot 是執行在 Linux 伺服器上的一組機器人,可分別指派工作:客服機器人用 Gmail 回郵件、工程師機器人寫程式碼、安全機器人監控 Cloudflare 與伺服器日誌,營銷機器人則以每週社交觸達增長 2% 為目標開了 TikTok 和 YouTube Shorts 帳號。
面向 Mac(Apple Silicon)的記賬應用 Pulse Local 進入 beta,用完全跑在本機的模型回答消費問題,本地模式不需要帳號,不上傳賬本,也不傳送分析與崩潰日誌。它把 CSV 賬單匯入後,由微調的 Qwen3 0.6B 將問題轉成結構化查詢,金額計算交給程式碼,另一個 4B 檢查模型複核答案,兩者不一致時直接回答不確定;官方稱這讓錯誤答案從約五分之一降到三次測試共 494 題中的 5 題。
Anthropic 團隊為每個系統元件單獨建 Slack 頻道,讓 Claude 當“超級粉絲”,持續檢視遙測與日誌,捕捉傳統告警看不出的細微異常。博主據此判斷,到了 Opus 5.5 / Astra 這一代模型,agent 監控已經能直接使用:他的變更點監控原型由 agent 讀取服務程式碼並提出方案,再交給確定性執行器執行;觸發後,agent 會排查並把問題升級給人。這個原型在他自己並不瞭解的系統上也能檢出迴歸,精度與延遲是一年前做不到的;