llama.cpp releases● 精選10/5 06:29AI 評分60
llama.cpp 為 Metal 加入少行 MMA 矩陣乘核心
llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。
依意思最接近的 2 筆
llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。
Google Maps Scraper 發布遠端 MCP 伺服器,AI agent 可通過 https://gmapscrawl.com/api/mcp 搜尋商家並獲取結構化資料。單次最多返回 20 條商家資訊,包含地址、聯絡方式、評分與評論數,以 JSON 格式輸出。使用 Bearer API key 認證,支援 Claude Code、Cursor、VS Code、Codex 等相容遠端 HTTP MCP 的客戶端。實際使用需 API 權限,線上訂閱不包含該服務。