AISpot

搜尋

找到 22 筆

llama.cpp releasesAI 評分40

llama.cpp b11592:CUDA 圖除錯日誌改由 GGML_CUDA_GRAPH_DEBUG 控制

llama.cpp 發布每日建置 b11592,ggml-cuda 的 CUDA graph 除錯日誌改為只在設定 GGML_CUDA_GRAPH_DEBUG 後才輸出,並移除了這部分日誌的 NDEBUG 編譯開關。同一批提交把 CUDA 環境變數的讀取改成靜態常量快取,程序內只查詢一次,不再每次呼叫重複讀取。

llama.cpp releasesAI 評分42

llama.cpp 修復 router 日誌與命令混流並啟用 Windows 控制台 ANSI 顏色

llama.cpp 發布 b11401 建置,修復 router 模式下子程序狀態命令與日誌共用同一管道導致命令被漏讀的問題,改為子程序 stdout 專用於命令、其餘輸出重定向到 stderr。日誌顏色重置位置調整到換行符之前,使每行顏色自包含,避免汙染下一條命令。Windows 控制台現在會在開啟顏色時啟用虛擬終端模式,無法渲染 ANSI 的終端則保持關閉顏色。

Hacker News front pageAI 評分48

自建 LLM 代理才能看清 token 用量與呼叫日誌

有開發者主張,訂閱制前端自帶的用量面板不足以支撐工程決策,LLM 代理應當自己託管。自建代理可在單一端點聚合多家供應商與模型,記錄哪個金鑰在何時、用哪個客戶端呼叫了哪個模型及其狀態,並用虛擬 API key 避免主金鑰散落在各類 agent 與工具中,還能快速切換模型而不必重新配置。作者不推薦具體代理服務,只建議部署在自己可控的環境並按需改造,例如增加自訂 MCP server 端點;其代理帶 API,編碼會話中的快取未命中可在約 20 秒內手工定位,也可自動化。

llama.cpp releasesAI 評分43

llama.cpp 修復 Vulkan 主機記憶體問題,AMD 停用記憶體共享

llama.cpp 發布 b11683 版本,Vulkan 後端修復了 GPU 可見主機記憶體的相關問題,並減少主機指標匯入失敗時的日誌刷屏。該版本把 MoltenVK 排除在共享記憶體匯入之外,同時因 amdgpu 效能問題,在 AMD 上停用了主機記憶體緩衝區共享。

Cloudflare blog (AI)● 精選AI 評分77

Cloudflare 聯合 Exa、Linkup 上線 Web Search API

Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。

Pi changelogAI 評分45

Pi 1.0.2 發布:models.json 支援按思考等級設定取樣引數

Pi 1.0.2 已發布,可從 npm 下載,GitHub 上有對應 release 與更新日誌。本次新增的 samplingParamsByThinkingLevel 寫入 models.json 後,可在相容 OpenAI 的 API 上按不同思考等級分別覆蓋 temperature、top_p 等取樣引數。該功能由 @mrexodia 提交(#9776),官方文件給出了按思考等級配置取樣的說明。

Hacker News front pageAI 評分36

開源可觀測資料湖 Parseable 亮相,每分鐘處理 1 億時間序列

用 Rust 編寫的開源可觀測性資料湖 Parseable 在 Hacker News 上展示,官方稱可每分鐘處理 1 億條時間序列。它原生支援 OTel、PromQL 與 SQL,資料以開放 Parquet 列式格式存放於物件儲存,採用無狀態架構,日誌、指標、分散式追蹤、告警與儀表盤都整合在單個二進位制內。

OpenAI Codex changelogAI 評分43

Codex app 26.803 修復 Find 誤改程式碼檔案等問題

Codex app 26.803 發布,本次更新以效能改進和錯誤修復為主。修復了在 Find 中鍵入內容會誤改當前開啟程式碼檔案的問題,並在把對話遷移到 worktree 時保留原先選定的模型與思考等級。@ 提及的搜尋改為不區分大小寫。更新日誌僅列出這三項,未說明其他改動。

llama.cpp releasesAI 評分42

llama.cpp 為 Hexagon 後端加入可配置 HTP 功耗模式

llama.cpp 的 Hexagon 後端新增可配置的 HTP DCVS/HMX 功耗模式。該功能通過 run.py 的 --hex-power-mode 標誌暴露,對應環境變數 GGML_HEXAGON_POWER_MODE,沿用已有的 --hex-nhvx 模式。由於變數必須在程序接觸 Hexagon 後端登錄檔之前設定,官方沒有把它做成通用的 CLI 選項。同一 PR 還讓 HTP 在 DCVS 功耗配置下保持喚醒,並清理了註釋與日誌。

Google Developers blog● 精選AI 評分73

Google Cloud API Gateway 原生支援 MCP 伺服器

Google Cloud API Gateway 現在可作為原生遠端 MCP 伺服器,無需自建中介軟體即可把 REST API 暴露給 AI agent。開發者在現有 OpenAPI 3.x 規範中新增 x-google-api-management.mcp 等註解,就能把標準 REST 操作轉為可被 agent 發現的工具;閘道器會自動將 MCP JSON-RPC 請求轉碼為 REST 呼叫,現有認證、配額與日誌策略繼續生效,無需新增基礎設施。

OpenAI Codex changelogAI 評分43

Codex app 26.901 更新:修復遠端會話卡住與 SSH 偏好丟失

Codex app 26.901 是一次以效能改進和錯誤修復為主的更新。此版修復了設定重新整理時模型選擇器意外關閉的問題,並區分了成功提交的反饋與失敗的診斷上傳;同時解決了遠端會話在主機變更後重新開啟時卡住的問題,還讓應用重啟後仍保留自動連線 SSH 主機的偏好設定。更新日誌未提及新功能。

Hacker News front pageAI 評分65

無 LLM agent 的 Jev 診斷管線:105 次通過 76.2%

一個不含 LLM agent 的 Jev 驅動診斷管線,在 SREGym-Lite 的 21 個故障、105 次診斷中通過 80 次(76.2%),中位診斷時間 14.6 秒。管線先用程式化收集器讀取 Kubernetes 物件、事件、近期 Pod 日誌與資源用量,按元件彙總後交給 Jev,由它在給定選項中選出可能根因、判斷元件是源頭還是下游受害者,並挑出關鍵證據,再組裝成診斷報告。Jev 全程只做選擇,不生成命令也不寫報告;

Hacker News front page● 精選AI 評分77

Grok Bot 多智慧體代管初創公司一週:協作修 bug、凌晨自主上線功能

一位獨立開發者用 Grok Bot 的多智慧體團隊代管自己的產品 PromptBase 一週,其間專案機器人還在他睡覺時自主上線了一個新功能。Grok Bot 是執行在 Linux 伺服器上的一組機器人,可分別指派工作:客服機器人用 Gmail 回郵件、工程師機器人寫程式碼、安全機器人監控 Cloudflare 與伺服器日誌,營銷機器人則以每週社交觸達增長 2% 為目標開了 TikTok 和 YouTube Shorts 帳號。

Hacker News front pageAI 評分52

Mac 記賬應用 Pulse Local 發布,AI 全在本機執行

面向 Mac(Apple Silicon)的記賬應用 Pulse Local 進入 beta,用完全跑在本機的模型回答消費問題,本地模式不需要帳號,不上傳賬本,也不傳送分析與崩潰日誌。它把 CSV 賬單匯入後,由微調的 Qwen3 0.6B 將問題轉成結構化查詢,金額計算交給程式碼,另一個 4B 檢查模型複核答案,兩者不一致時直接回答不確定;官方稱這讓錯誤答案從約五分之一降到三次測試共 494 題中的 5 題。

Hacker News front pageAI 評分71

Anthropic 讓 Claude 當超級粉絲,按元件盯生產監控

Anthropic 團隊為每個系統元件單獨建 Slack 頻道,讓 Claude 當“超級粉絲”,持續檢視遙測與日誌,捕捉傳統告警看不出的細微異常。博主據此判斷,到了 Opus 5.5 / Astra 這一代模型,agent 監控已經能直接使用:他的變更點監控原型由 agent 讀取服務程式碼並提出方案,再交給確定性執行器執行;觸發後,agent 會排查並把問題升級給人。這個原型在他自己並不瞭解的系統上也能檢出迴歸,精度與延遲是一年前做不到的;