依意思最接近的 25 筆
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。
Anthropic 發布一篇思想實驗文章，探討「每秒 100 萬 token」的四種含義：上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度，並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例，其上下文視窗為 100 萬 token，但單次請求輸出上限遠小於此。文章用互動計算器演示：若單智慧體達到每秒 100 萬 token，1000 個故事結局約 1 秒寫完，但加入 60 秒固定檢查後，端到端加速從 10000 倍降至 132.57 倍。
是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架，其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax，最佳化目標是滿足服務要求的達標輸出吞吐；另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%，官方註明屬收益測算範例。
ttok 1.0 發布，預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器，但 William Liu 的實驗顯示，5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致，均為 44,794，GPT-6 在這批語料上沒有增加輸入 token。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
Anthropic 發布一套面向企業客戶的報表工具：管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡，並獲得改進建議；這些資料預設不用於模型訓練。同時上線團隊共享預算池，用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%；
超聚變在 2026 OCP 全球峰會（10 月 12 日，美國聖何塞）展出 TokenBox 本地 AI 超級工作站，單機可支援最高 1.6 萬億引數模型，包含 DeepSeek V4 Pro，資料完全本地留存，企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統，並發表《Next-Generation Power & Cooling Solutions》主題演講，聚焦供電、散熱與互連。
TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露，其 System-One 模型 Jev 估值達 100 億美元，日處理量已突破一萬億 token，且夜間流量持續走高，說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一，發布影片 6 天瀏覽量超 3870 萬。
Canary Tokens 的官方指南文件（docs.canarytokens.org/guide/）在 Hacker News 上被分享，獲得 32 分、8 條評論。指南講解如何部署這類“誘餌”令牌：在系統中放置看似有價值的檔案、憑證或連結，一旦被訪問就觸發告警，用於及早發現入侵和憑證洩露。原文只提供了文件入口和討論串，沒有更多版本或功能更新資訊。
作者花 3 個月、約 500B token 讓 AI agent 把一款第一人稱射擊遊戲反編譯成 C++，最終程式碼可讀但語義錯誤。專案同時使用 Claude Max（20x）與 Codex Pro 訂閱，agent 跑在 Claude Code CLI 與 Codex CLI 裡，主力是 Sonnet 5，也用過 Opus 5.5、Luna、Sol、Terra；
OpenAI 開發者官方帳號展示了一個用 Codex 搭建的 token 用量儀表盤，該儀表盤執行在一臺舊 Kindle 上。推文只給出一句說明，沒有透露使用了哪個模型版本、具體實現方式，也沒有說明程式碼是否開源，或使用哪家服務的 token 資料。
OpenAI 經濟研究的報告顯示，在歐盟 ChatGPT Enterprise 客戶中，Codex 與 ChatGPT Work 已佔輸出 token 的一半以上，AI 使用正從提問轉向由 agent 執行任務。2026 年 5 月以來，歐盟中小企業中這兩款產品的周活躍使用者增長超過 8 倍，覆蓋每個成員國；但國別差異明顯，其輸出 token 佔比從斯洛維尼亞的 22% 到立陶宛的 85%。
Google OAuth 平台現已支援 DPoP（Demonstrating Proof-of-Possession），對重新整理令牌做傳送方約束，以抵禦資訊竊取類惡意軟體與中間人攻擊。做法是把長期有效的重新整理令牌與金鑰做密碼學繫結，短期訪問令牌仍按標準 Bearer 令牌使用，因此不會帶來高 QPS 下的 API 效能開銷。開發者若在搭建多智慧體或 MCP 工作負載，還可用 Google Cloud STS 在智慧體鏈路上完成安全的令牌委派。
A2UI 支援可切換推理格式，新增的 A2UI Express 會把緊湊的 Python 風格語法經 Agent SDK 編譯成標準 A2UI JSON，token 用量最多減少 3 倍，延遲同步下降。開發者還可以結合 TypeSafe 的 Jev 系統決策模型進行受控生成，在 300ms 內渲染出已知結構的介面，同時讓較小模型流式輸出文字。前端渲染器與元件目錄無需改動，Python、TypeScript、Dart 均可使用。
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA，在保持原始 Top-K 選擇結果完全等價的前提下加速索引器，約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界，提前排除約 97% 不可能入選的候選，只對剩餘候選做全部索引頭的精確打分。
AI 工具正在加速老遊戲的反編譯與重編譯移植，也讓專注遊戲儲存的社群遭到衝擊。過去一個月，瀏覽器裡的《光環》、iPhone 上的《風之杖》、混合現實中的《任天堂明星大亂鬥》等非常規移植專案高頻走紅。愛好者用 decomps/recomps 逆向拆解遊戲，再為新平台重建；AI 提高了移植速度，卻撕裂了原本緊密的儲存社群。
量子位發文吐槽，Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析，除 Coding 過擬合外，更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」，OpenAI 最早這麼做，同樣一句話的 Token 消耗比白話文少 70%；Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯，而 Gemini 因輸出風格正常、排版層級清晰，被社群視為少數還能正常溝通的 AI。
輝達援引 SemiAnalysis AgentX 資料稱，Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍，在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯：每兆瓦 token 數決定收益，A100 出貨六年後仍在商用，CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。
arXiv 新論文提出 Hybrid Reasoning Agents（HybridAgents），在隱空間推理與文字互動之間動態切換，token 減少 35.5%–54.7%、推理快 1.8–2.6 倍、成本降至 1/2.7–1/3.7，效能平均提升 10.4%。架構上由輕量 HybridLink 完成文字與隱空間模式的切換，連續工作記憶在多輪中保留無損混合上下文，既保留工具呼叫能力，也讓隱空間思考可直接檢查。配套 HybridSFT 與 HybridRL 後訓練演算法；
Superdesign 團隊發布 Treg，定位為面向 agent 工具的 OpenRouter：只需一個 base URL 和一個 token，即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點，按次計費、最低一美分起，無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付，團隊自有 key 的呼叫不計費，新驗證團隊可獲 1 美元免費額度。
投機解碼提速並不是因為計算量更少，恰恰相反，同一序列的浮點運算總量反而上升。它快在改變了 GPU 的工作型別：逐個 token 解碼時 GPU 處於記憶體瓶頸、算力閒置，而用小草稿模型一次並行驗證多個 token，等於用閒置算力換取單條序列的深度推進。被拒絕的草稿 token 都是白做的功，高吞吐場景下反而浪費算力，因此 vLLM 提供 --speculative-disable-by-batch-size 引數按批大小整體關閉該功能；
llama.cpp 發布建置 b11782，服務端修復了 n 大於 1（一次生成多個候選）時 usage.completion_tokens 統計偏少的問題。該版本同時更新了各平台預編譯包，覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Linux（含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL）以及 Windows、Android、openEuler 等平台。
DeepSeek 開源了生產推理棧 DeepInfer，它基於 vLLM 定製、採用 Apache 2.0 許可，支援最長 72 小時 prompt 快取、投機解碼與結構化輸出，相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s，按非高峰電價折算單卡每小時收入 38 美元，毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源；
Hacker News 上一條 Ask HN 帖子提問：如果前沿模型已經這麼強，OpenAI、Anthropic 為什麼不自己拿模型去開一批公司、做自己的產品，而是把賣 token 當成主要收入來源。發帖者認為模型正在商品化、價格持續走低，這或許說明應用側比工具側更賺錢。該帖獲得 130 分、109 條評論。