llama.cpp releasesAI 評分42
llama.cpp b11884 修復 DRY 取樣耗盡 CPU 與記憶體
llama.cpp 發布 b11884 建置,修復 DRY 取樣(dry sequence breaker)導致 CPU 與記憶體被耗盡的問題,對應 PR #31035。
找到 4 筆;也可以試試 語意搜尋
llama.cpp 發布 b11884 建置,修復 DRY 取樣(dry sequence breaker)導致 CPU 與記憶體被耗盡的問題,對應 PR #31035。
llama.cpp 修復了 ggml-cpu 後端 SET_ROWS 運算元的多執行緒越界寫入問題:該運算元按 n_tasks=1 規劃,但每個執行緒都會執行並各自佔用 F16→F32 轉換緩衝區的一行,當計算圖中還有別的多執行緒運算元時,編號大於 0 的執行緒就會寫到工作緩衝區之外;修復方式是把 set_rows 併入 n_task=n_threads 的執行緒組。
開發者逆向發現,三星 Tizen 電視每隔幾秒擷取 960×540 畫面,用 INT8 量化的 TensorFlow Lite 模型 alex.tflite(即 AlexNet)推斷使用者正在玩哪款遊戲。模型輸出會與資料庫做最近鄰特徵比對,但結果在授權確認彈窗出現之前就已寫出,等於直接丟棄。據測試該識別約 99% 的情況並不準確,卻持續佔用 CPU。
Corgi 是一款面向 coding agent 的終端複用器,按 F1 可跳到下一個未讀 agent,並統一啟動 Codex、Claude Code 與 Pi(支援多帳號)。它即時展示各 agent 的活動流,支援會話快速搜尋與恢復、內聯用量統計,以及點選複製連結、cmd+v 直接貼上圖片(SSH 下也可用)、圖片縮圖預覽,並按工作區統計 CPU/記憶體/GPU 佔用。作者稱已把它作為日常主力工具使用數週,專案仍有粗糙之處,正在徵集反饋。