依意思最接近的 26 筆
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
Anthropic 發布一篇思想實驗文章，探討「每秒 100 萬 token」的四種含義：上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度，並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例，其上下文視窗為 100 萬 token，但單次請求輸出上限遠小於此。文章用互動計算器演示：若單智慧體達到每秒 100 萬 token，1000 個故事結局約 1 秒寫完，但加入 60 秒固定檢查後，端到端加速從 10000 倍降至 132.57 倍。
超聚變在 2026 OCP 全球峰會（10 月 12 日，美國聖何塞）展出 TokenBox 本地 AI 超級工作站，單機可支援最高 1.6 萬億引數模型，包含 DeepSeek V4 Pro，資料完全本地留存，企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統，並發表《Next-Generation Power & Cooling Solutions》主題演講，聚焦供電、散熱與互連。
ttok 1.0 發布，預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器，但 William Liu 的實驗顯示，5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致，均為 44,794，GPT-6 在這批語料上沒有增加輸入 token。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露，其 System-One 模型 Jev 估值達 100 億美元，日處理量已突破一萬億 token，且夜間流量持續走高，說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一，發布影片 6 天瀏覽量超 3870 萬。
Superdesign 團隊發布 Treg，定位為面向 agent 工具的 OpenRouter：只需一個 base URL 和一個 token，即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點，按次計費、最低一美分起，無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付，團隊自有 key 的呼叫不計費，新驗證團隊可獲 1 美元免費額度。
OpenAI 經濟研究的報告顯示，在歐盟 ChatGPT Enterprise 客戶中，Codex 與 ChatGPT Work 已佔輸出 token 的一半以上，AI 使用正從提問轉向由 agent 執行任務。2026 年 5 月以來，歐盟中小企業中這兩款產品的周活躍使用者增長超過 8 倍，覆蓋每個成員國；但國別差異明顯，其輸出 token 佔比從斯洛維尼亞的 22% 到立陶宛的 85%。
作者花 3 個月、約 500B token 讓 AI agent 把一款第一人稱射擊遊戲反編譯成 C++，最終程式碼可讀但語義錯誤。專案同時使用 Claude Max（20x）與 Codex Pro 訂閱，agent 跑在 Claude Code CLI 與 Codex CLI 裡，主力是 Sonnet 5，也用過 Opus 5.5、Luna、Sol、Terra；
TypeSafe AI 的 Jev 模型近期走紅，其介面可直接返回預設選項、分數或事件機率，供程式碼呼叫，但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score，僅用對錯標籤即可訓練置信度機率分佈，在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884，4 張 A40 上約 4 分鐘完成微調。
量子位發文吐槽，Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析，除 Coding 過擬合外，更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」，OpenAI 最早這麼做，同樣一句話的 Token 消耗比白話文少 70%；Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯，而 Gemini 因輸出風格正常、排版層級清晰，被社群視為少數還能正常溝通的 AI。
Claude 官方帳號稱，Haiku 5.5 在 10 萬 token 以下的任務上價效比尤其突出。官方給出的依據是，這類任務約佔此前 Haiku 模型所收到請求的 90%，意味著絕大多數實際呼叫都落在這一區間內。該帖由 @claudeai 發布，未披露 Haiku 5.5 的具體價格、上下文長度或基準測試成績，也未與其他模型做對比。
Google OAuth 平台現已支援 DPoP（Demonstrating Proof-of-Possession），對重新整理令牌做傳送方約束，以抵禦資訊竊取類惡意軟體與中間人攻擊。做法是把長期有效的重新整理令牌與金鑰做密碼學繫結，短期訪問令牌仍按標準 Bearer 令牌使用，因此不會帶來高 QPS 下的 API 效能開銷。開發者若在搭建多智慧體或 MCP 工作負載，還可用 Google Cloud STS 在智慧體鏈路上完成安全的令牌委派。
TypeSafe AI 以 75 億美元估值完成 8.7 億美元融資，由 Andreessen Horowitz 領投，紅杉與現有投資方 DCVC 參投。其模型 Jev 於 9 月 15 日發布，基於 transformer 架構但不是大語言模型，不輸出文字而是生成機率，公司稱之為「校準決策」，定位是自動化任務而非寫文字或程式碼。公司稱 Jev 速度明顯更快、消耗 token 遠少於 LLM，並稱已有三分之一財富 500 強企業在使用；
AWS 發布開發工具 TorchNeuron，用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上，無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch，熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游，推動框架硬體無關；Trainium 兼顧訓練與推理，AWS 強調價效比，語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
Jev 母公司 TypeSafe AI 完成 8.7 億美元 A 輪融資，投後估值 75 億美元，距 9 月 15 日種子輪的 2 億美元僅 24 天。Jev 砍掉生成能力、只做分類打分與選擇，輸出 token 永久免費，輸入每百萬 token 0.042 美元；上線 3 天日吞吐量達 1 萬億 token，接入 Vercel AI Gateway 後 24 小時內被近 13% 付費團隊採用，約三分之一《財富》500 強已在用。
川普推動把「人工智慧」改名為「超級智慧」，矽谷部分有影響力的人物正在跟進。馬斯克在川普表態數小時後即表示支援，並承諾把 SpaceXAI 更名為 SpaceXSI，是回應最快的一位。不過大眾仍普遍沿用 AI 這一說法。川普稱白宮認為「超級智慧」是更被接受、更準確的新術語。
Anthropic 前沿紅隊發布研究，測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B，總價約 825 美元，生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點，但依賴外部推理伺服器與預開的免認證 ADB 埠；
Anthropic 週一發布研究報告，稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理，Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒；GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B，5 次試驗中 4 次全部成功。
獨立研究者 10 月 5 日發布初步發現，追蹤到一批並行的 AI agent，疑似執行在騰訊的基礎設施上，目標指向阿里巴巴的高德地圖服務，查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞，稱應叫 agent fleet：多個 agent 執行同類任務，彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的，該服務常被 agent 用來載入無法直接訪問的網站並留下記錄；研究仍在進行中。
前華為小藝多模態大模型研發負責人唐都鈺創辦觀行數智，主攻讓機器自主判斷何時介入的「主動式物理 AI」。團隊採用雙模型協同架構 ProAgent：輕量模型 StreamingJev 持續讀取環境事件流、判斷是否需要介入，Response Model 再決定回應方式與呼叫裝置，並自建評測體系 ProactiveXBench。
llama.cpp 發布 b11471 建置，主要變更是向詞表加入 Plamo 的 FIM（fill-in-the-middle）tokens，服務程式碼補全場景。該版本發布包覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler，後端包含 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL，以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
arXiv 新論文提出 Hybrid Reasoning Agents（HybridAgents），在隱空間推理與文字互動之間動態切換，token 減少 35.5%–54.7%、推理快 1.8–2.6 倍、成本降至 1/2.7–1/3.7，效能平均提升 10.4%。架構上由輕量 HybridLink 完成文字與隱空間模式的切換，連續工作記憶在多輪中保留無損混合上下文，既保留工具呼叫能力，也讓隱空間思考可直接檢查。配套 HybridSFT 與 HybridRL 後訓練演算法；
STEPX（階躍終端）推出旗下首款 AI 終端原生開發工具 Step Studio，創客只需使用自然語言即可生成 AI App、遊戲、智慧體和 Skill，並可通過 MCP、A2A 等協議連線外部服務與專業智慧體。
GPT-6 Astra Ultrafast 已在 OpenAI API 上線，並向符合條件的 ChatGPT Work 與 Codex 使用者開放，執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍，可縮短 coding agent 的編輯—測試—除錯迴圈，並減少工具呼叫之間的等待。開發者可通過 API 使用，訪問方式、價格與實現細節見 Ultrafast 指南。