依意思最接近的 21 筆
是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架，其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax，最佳化目標是滿足服務要求的達標輸出吞吐；另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%，官方註明屬收益測算範例。
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。
Superdesign 團隊發布 Treg，定位為面向 agent 工具的 OpenRouter：只需一個 base URL 和一個 token，即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點，按次計費、最低一美分起，無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付，團隊自有 key 的呼叫不計費，新驗證團隊可獲 1 美元免費額度。
TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露，其 System-One 模型 Jev 估值達 100 億美元，日處理量已突破一萬億 token，且夜間流量持續走高，說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一，發布影片 6 天瀏覽量超 3870 萬。
Jev 母公司 TypeSafe AI 完成 8.7 億美元 A 輪融資，投後估值 75 億美元，距 9 月 15 日種子輪的 2 億美元僅 24 天。Jev 砍掉生成能力、只做分類打分與選擇，輸出 token 永久免費，輸入每百萬 token 0.042 美元；上線 3 天日吞吐量達 1 萬億 token，接入 Vercel AI Gateway 後 24 小時內被近 13% 付費團隊採用，約三分之一《財富》500 強已在用。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
從瑞典 KTH 皇家理工學院分拆的 Flox Intelligence，用邊緣 AI 裝置在現場識別靠近鐵路、機場和公路的動物，再播放對應物種的聲音將其驅離，目前約 150 臺裝置已部署在北美、歐洲和澳大利亞。裝置一次性售賣，第一年後按年收取軟體與 AI 訂閱費，並已與列車製造商阿爾斯通等達成 OEM 合作，把軟體裝到車輛上。公司預計 2026 年底營收約 150 萬美元，此前累計融資約 500 萬美元，正啟動 1000 萬美元 A 輪，目標把裝置規模擴到數千臺。
Pluto Security 結束隱身狀態，宣布獲得 4200 萬美元融資，含 Jump Capital 領投的 3400 萬美元 A 輪與 TLV Partners 領投的 850 萬美元種子輪。其平台監控員工使用的 AI 工具、agent、MCP 伺服器與擴充套件元件，並可在 agent 執行中攔截越權操作或注入指令要求確認。CEO 稱新 AI 工具發布兩小時內就會出現在企業環境裡，客戶中約 60% 的風險來自非開發者 vibe coding 出的應用，財務部門最多；
TypeSafe AI 宣布完成 8.7 億美元 A 輪融資，估值達 75 億美元，由 Andreessen Horowitz 領投，Sequoia Capital、現有投資方 DCVC 及多位天使投資人參與，a16z 的 Martin Casado 加入董事會。公司表示將把 Jev 的能力擴充套件到更多 machine-native 模型，並補齊企業客戶要求的功能。目前財富 500 強中已有三分之一在使用 Jev，公司稱已在生產環境為客戶節省數百萬美元。
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
前 Google Cloud、SpaceX 工程師 Rama Afullo 創辦的 Satlyt 完成 800 萬美元種子輪，其衛星端 AI 軟體將於本週隨 SpaceX 火箭發射，與 Google 軌道資料中心原型 Project Suncatcher 同船。Satlyt 不造衛星硬體，只做讓衛星在軌執行 AI 模型的軟體層，定位類似衛星界的 VMware。
獨立研究者 10 月 5 日發布初步發現，追蹤到一批並行的 AI agent，疑似執行在騰訊的基礎設施上，目標指向阿里巴巴的高德地圖服務，查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞，稱應叫 agent fleet：多個 agent 執行同類任務，彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的，該服務常被 agent 用來載入無法直接訪問的網站並留下記錄；研究仍在進行中。
超聚變在 2026 OCP 全球峰會（10 月 12 日，美國聖何塞）展出 TokenBox 本地 AI 超級工作站，單機可支援最高 1.6 萬億引數模型，包含 DeepSeek V4 Pro，資料完全本地留存，企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統，並發表《Next-Generation Power & Cooling Solutions》主題演講，聚焦供電、散熱與互連。
TypeSafe AI 以 75 億美元估值完成 8.7 億美元融資，由 Andreessen Horowitz 領投，紅杉與現有投資方 DCVC 參投。其模型 Jev 於 9 月 15 日發布，基於 transformer 架構但不是大語言模型，不輸出文字而是生成機率，公司稱之為「校準決策」，定位是自動化任務而非寫文字或程式碼。公司稱 Jev 速度明顯更快、消耗 token 遠少於 LLM，並稱已有三分之一財富 500 強企業在使用；
Anthropic 發布一篇思想實驗文章，探討「每秒 100 萬 token」的四種含義：上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度，並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例，其上下文視窗為 100 萬 token，但單次請求輸出上限遠小於此。文章用互動計算器演示：若單智慧體達到每秒 100 萬 token，1000 個故事結局約 1 秒寫完，但加入 60 秒固定檢查後，端到端加速從 10000 倍降至 132.57 倍。
Cloudflare 宣布 Artifacts 版本化檔案系統進入開放公測，並舉辦競賽邀請開發者用 Workers 和 Artifacts 建置面向 agent 的下一代 Git 平台。Artifacts 支援程式化建立與 fork 倉庫、儲存程式碼和 agent 上下文，新增將倉庫部署到 Workers、通過繫結在 Worker 中管理倉庫、訂閱 push 等事件觸發 CI 或程式碼審查、選擇美國或歐盟資料轄區以及檢視倉庫指標等能力。
llama.cpp 發布 b11471 建置，主要變更是向詞表加入 Plamo 的 FIM（fill-in-the-middle）tokens，服務程式碼補全場景。該版本發布包覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler，後端包含 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL，以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
SpaceXAI 宣布加入監管 Linux 發行版 Omarchy 的 Omacom 基金會，成為創始企業贊助方，並捐贈價值 150 萬美元的 Grok token。據 David Heinemeier Hansson 的博文，這批 token 主要用於加速開發、審查程式碼和修復 bug。Hansson 是 Ruby on Rails 的創造者、Basecamp 聯合創始人，Omarchy 是他主導且頗具爭議的 Linux 發行版專案。
Anthropic 週一發布研究報告，稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理，Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒；GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B，5 次試驗中 4 次全部成功。
ttok 1.0 發布，預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器，但 William Liu 的實驗顯示，5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致，均為 44,794，GPT-6 在這批語料上沒有增加輸入 token。
Vercel 資料顯示，TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用，覆蓋面接近第二名 Sonnet 5.5 的兩倍，是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布，通過限定候選輸出降低推理成本、提升速度，適合大批次資料分類，Vercel 已用它替換 GPT-6 Luna 做有害命令分類。