Simon WillisonAI 評分41
llm-echo 0.5 發布，模擬 token 統計計入工具呼叫與推理 token
llm-echo 0.5 發布，這個除錯外掛不接入任何 LLM，只把收到的 prompt 原樣回顯，新版讓模擬的 token 用量統計把工具呼叫、系統提示詞和推理 token 都計算在內。
搜尋
找到 5 筆
llama.cpp releasesAI 評分40
llama.cpp b11782 修復 n>1 時 completion_tokens 少計
llama.cpp 發布建置 b11782，服務端修復了 n 大於 1（一次生成多個候選）時 usage.completion_tokens 統計偏少的問題。該版本同時更新了各平台預編譯包，覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Linux（含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL）以及 Windows、Android、openEuler 等平台。
Hacker News front pageAI 評分46
調查：僅 11% 企業能準確預測 AI 支出
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
Simon WillisonAI 評分43
tiktoken 命令列工具 ttok 發布 0.4，新增 --list-models
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
Hacker News front page● 精選AI 評分87
OpenAI 公布歐盟文字溯源方案，API 可選用文字水印
OpenAI 公布應對歐盟 AI 法案的文字溯源方案：全球 API 客戶即日起可為部分模型選擇開啟文字水印（預設關閉），未來幾週將在歐盟的 ChatGPT 與 Codex 文字輸出中加入不可見水印，檢測器僅向獲批研究者與專家組織開放申請。其自研 textGrain 通過統計訊號標記用詞，在 1% 誤報率下對 200 token 段落檢出約 80%、400 token 約 95%，數學等用詞受限內容明顯更低；