AISpot

搜尋

找到 8 筆

llama.cpp releasesAI 評分40

llama.cpp b11592:CUDA 圖除錯日誌改由 GGML_CUDA_GRAPH_DEBUG 控制

llama.cpp 發布每日建置 b11592,ggml-cuda 的 CUDA graph 除錯日誌改為只在設定 GGML_CUDA_GRAPH_DEBUG 後才輸出,並移除了這部分日誌的 NDEBUG 編譯開關。同一批提交把 CUDA 環境變數的讀取改成靜態常量快取,程序內只查詢一次,不再每次呼叫重複讀取。

r/LocalLLaMA top of the dayAI 評分55

repopedia:MIT 許可的原生代碼知識圖譜工具

開發者發布 repopedia,一個 MIT 許可的原生代碼知識圖譜工具,用 pip 安裝後對倉庫建圖,結果存為普通 SQLite 檔案,tree-sitter 負責解析,無需伺服器、Docker 或 API key,程式碼不上傳。它可查詢函式呼叫者與改動的傳遞影響範圍,並生成程式碼庫 wiki,還提供 MCP server 供 Claude Code 直接查圖,一次呼叫返回 file:line。

llama.cpp releasesAI 評分41

llama.cpp b11583:無快取路徑避免記憶體重複分配

llama.cpp 發布 b11583,主要改動是在「no cache」路徑下避免圖記憶體的重複分配(#30439),即不使用 prompt 快取時可減少反覆申請與釋放視訊記憶體/記憶體。該版本照例提供 macOS、Linux、Windows、Android 等平台的預編譯包,其中 macOS Apple Silicon 的 KleidiAI 建置和 openEuler 建置本次標記為 DISABLED。

Simon WillisonAI 評分47

Python 3.15 新 profiler 實測:為 web-edit 生成火焰圖與熱力圖

Python 3.15 的新 profiler 被用來剖析 PyPI 上的 web-edit 應用,並生成了火焰圖與原始碼熱力圖範例。這次演示由 Codex 中的 GPT-6 Astra Extra High 執行,先做調研再產出兩份圖。作者把生成的火焰圖和熱力圖作為範例公開,展示新版 profiler 的輸出形態。