依意思最接近的 30 筆
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。
Anthropic 發布一篇思想實驗文章，探討「每秒 100 萬 token」的四種含義：上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度，並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例，其上下文視窗為 100 萬 token，但單次請求輸出上限遠小於此。文章用互動計算器演示：若單智慧體達到每秒 100 萬 token，1000 個故事結局約 1 秒寫完，但加入 60 秒固定檢查後，端到端加速從 10000 倍降至 132.57 倍。
是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架，其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax，最佳化目標是滿足服務要求的達標輸出吞吐；另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%，官方註明屬收益測算範例。
Y Combinator CEO Garry Tan 在播客中透露，他每年為 AI agent 的 token 花費 10 萬至 20 萬美元，並稱這是並非人人都能負擔的特權。他用 agent 處理工作專案與編碼任務，還把 23 個 Claude Code 技能打包成 gstack 在 GitHub 公開。YC 內部另有一個名為 Stray Light 的 agent，掌握其投資過的所有創始人、所有申請與來信的上下文。他認為個人 agent 要走向主流，前提是成本先降下來。
有使用者反映改用 Opus 5.5 後，每週僅用 300M token 就觸及訂閱上限，而此前每週消耗 1-2B token 都沒問題。該使用者指出 Opus 5.5 單 token 價格理論上更低，懷疑是訂閱額度被削減，或與自己大量使用 subagent 有關。目前尚無官方說明。
Anthropic 發布一套面向企業客戶的報表工具：管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡，並獲得改進建議；這些資料預設不用於模型訓練。同時上線團隊共享預算池，用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%；
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
OpenAI 開發者官方帳號展示了一個用 Codex 搭建的 token 用量儀表盤，該儀表盤執行在一臺舊 Kindle 上。推文只給出一句說明，沒有透露使用了哪個模型版本、具體實現方式，也沒有說明程式碼是否開源，或使用哪家服務的 token 資料。
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
Ramp 資料顯示，企業 AI 用量在漲、支出卻幾乎停滯：8 至 9 月 token 支出僅增 1.5%，而 7 月環比還是 42%。主因是價格戰，OpenAI 9 月將 GPT-6 Sol 與 GPT-6 Luna 的 API 價格減半，Anthropic 也下調 Fable 5.1 與 Opus 5.5 價格，並稱這使收入增速減少約 6 億美元。支出最高的 1% 企業人均月支出從夏季峰值降至 1 萬美元以下，中位數企業僅 12–15 美元。
量子位發文吐槽，Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析，除 Coding 過擬合外，更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」，OpenAI 最早這麼做，同樣一句話的 Token 消耗比白話文少 70%；Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯，而 Gemini 因輸出風格正常、排版層級清晰，被社群視為少數還能正常溝通的 AI。
超聚變在 2026 OCP 全球峰會（10 月 12 日，美國聖何塞）展出 TokenBox 本地 AI 超級工作站，單機可支援最高 1.6 萬億引數模型，包含 DeepSeek V4 Pro，資料完全本地留存，企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統，並發表《Next-Generation Power & Cooling Solutions》主題演講，聚焦供電、散熱與互連。
思科給一名 27 歲工程師不限量的 AI token 額度，要求他在 24 個月內重寫公司 98% 的遺留程式碼。這名工程師是前創業公司創始人，由公司總裁親自挑選，並被明確告知可以放手去做。該訊息來自 Tom's Hardware 的報導，沒有說明具體會使用哪些模型或工具，也沒有披露預算、團隊規模與驗收標準。
OpenAI 上線用量說明文件：從 12 月起，Plus、Pro、Business 三檔的用量額度在 ChatGPT 與 Codex 之間共用同一個池子，並統一按 token 計算，不再按訊息條數，只有 Instant 聊天不計入額度。具體上線日期與各檔可用 token 數均未公布，額度用盡後可等重置、升級套餐或購買 credits。
TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露，其 System-One 模型 Jev 估值達 100 億美元，日處理量已突破一萬億 token，且夜間流量持續走高，說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一，發布影片 6 天瀏覽量超 3870 萬。
ttok 1.0 發布，預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器，但 William Liu 的實驗顯示，5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致，均為 44,794，GPT-6 在這批語料上沒有增加輸入 token。
一位使用者表示 6.1 Sol 效率很高，兩小時編碼任務僅消耗每週額度的 2-3%，在 100 美元套餐下很難用完額度，因此考慮降級到 20 美元套餐，但擔心後者 5 小時限制過於受限。該使用者稱願意用速度換取 token 效率，並詢問是否有人也在考慮降級。
llama.cpp 發布建置 b11782，服務端修復了 n 大於 1（一次生成多個候選）時 usage.completion_tokens 統計偏少的問題。該版本同時更新了各平台預編譯包，覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Linux（含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL）以及 Windows、Android、openEuler 等平台。
本週美股科技股集體重挫：Google 創下史上最差單日表現，Intel 跌幅為尼克松政府以來最大，納斯達克距回撥僅一步之遙。2023 年以來 AI 支出累計已達 1.6 萬億美元，摩根大通預計未來十年每年約 1 萬億美元；大型雲廠商今年約 2500 億美元資本開支靠發債融資，明年這一比例將升至約 35%。高盛測算這些廠商可承接的投資級債務上限約 5100 億美元，是當前預計借款額的兩倍多；而風險更高的新型雲廠商 CoreWeave 本月債券收益率已升至 15%。
Canary Tokens 的官方指南文件（docs.canarytokens.org/guide/）在 Hacker News 上被分享，獲得 32 分、8 條評論。指南講解如何部署這類“誘餌”令牌：在系統中放置看似有價值的檔案、憑證或連結，一旦被訪問就觸發告警，用於及早發現入侵和憑證洩露。原文只提供了文件入口和討論串，沒有更多版本或功能更新資訊。
輝達援引 SemiAnalysis AgentX 資料稱，Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍，在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯：每兆瓦 token 數決定收益，A100 出貨六年後仍在商用，CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。
Hacker News 上一條 Ask HN 帖子提問：如果前沿模型已經這麼強，OpenAI、Anthropic 為什麼不自己拿模型去開一批公司、做自己的產品，而是把賣 token 當成主要收入來源。發帖者認為模型正在商品化、價格持續走低，這或許說明應用側比工具側更賺錢。該帖獲得 130 分、109 條評論。
A2UI 支援可切換推理格式，新增的 A2UI Express 會把緊湊的 Python 風格語法經 Agent SDK 編譯成標準 A2UI JSON，token 用量最多減少 3 倍，延遲同步下降。開發者還可以結合 TypeSafe 的 Jev 系統決策模型進行受控生成，在 300ms 內渲染出已知結構的介面，同時讓較小模型流式輸出文字。前端渲染器與元件目錄無需改動，Python、TypeScript、Dart 均可使用。
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA，在保持原始 Top-K 選擇結果完全等價的前提下加速索引器，約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界，提前排除約 97% 不可能入選的候選，只對剩餘候選做全部索引頭的精確打分。
TypeSafe AI 的 Jev 模型近期走紅，其介面可直接返回預設選項、分數或事件機率，供程式碼呼叫，但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score，僅用對錯標籤即可訓練置信度機率分佈，在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884，4 張 A40 上約 4 分鐘完成微調。
阿里通義千問官方帳號轉發並祝賀 LightSeek 的 TokenSpeed 推理成績：Qwen3.8-Flash-Next 在輝達 GPU 上實現單使用者 685 output tokens/s。官方稱該結果令人印象深刻，並表示期待社群繼續釋放 Qwen 的推理潛力。這一數字指向 Qwen3.8-Flash-Next 在推理側的吞吐表現。
Revolut 已將約 2000 名工程師的編碼工作遷到自託管 GLM，並把 Claude Code 與 Codex 列入例外名單。據負責 AI 運維的 David Abitbol 披露，這套叢集為 56 張 Nvidia B200，混合成本約每百萬 token 30 美分，約為付給 Anthropic 與 OpenAI 的十分之一，工程交付週期縮短 70%。他還指出，收益出現在 token 不再被限量之後：工程師不再把 AI 留給難題，而是對所有任務都用。
Claude 官方帳號稱，Haiku 5.5 在 10 萬 token 以下的任務上價效比尤其突出。官方給出的依據是，這類任務約佔此前 Haiku 模型所收到請求的 90%，意味著絕大多數實際呼叫都落在這一區間內。該帖由 @claudeai 發布，未披露 Haiku 5.5 的具體價格、上下文長度或基準測試成績，也未與其他模型做對比。
Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認，其 AI 資料中心正越來越依賴天然氣（主要成分是甲烷）供電。檔案稱，爭奪電力供應與電力充足的資料中心選址的競爭十分激烈，公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結，供電成本與穩定性風險已被寫進公開的上市披露。
Anthropic 以測試版形式推出 Usage and Cost Analytics，需攜帶 beta header analytics-usage-cost-2026-08-24，通過兩個端點報告 Claude Console 與 Claude Enterprise 組織的 token 用量與成本。結果可按模型、工作區、API key 以及發起請求的使用者或服務帳號篩選與分組。