依意思最接近的 30 筆
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。
Anthropic 發布一篇思想實驗文章，探討「每秒 100 萬 token」的四種含義：上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度，並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例，其上下文視窗為 100 萬 token，但單次請求輸出上限遠小於此。文章用互動計算器演示：若單智慧體達到每秒 100 萬 token，1000 個故事結局約 1 秒寫完，但加入 60 秒固定檢查後，端到端加速從 10000 倍降至 132.57 倍。
Contexte Tech 將自己的資料目錄以 MCP 伺服器形式開放，無需帳號或金鑰，並把 MCP 視為智慧去中心化搜尋的共同底座。MCP 由 Anthropic 在 2024 年 11 月推出，2025 年 12 月移交給 Linux 基金會下的 Agentic AI Foundation，按帶日期的版本迭代並有公開伺服器登錄檔。與傳統搜尋引擎把網頁抓進自家索引相反，MCP 讓發布方把資料留在本地、由助手在提問時按需查詢，答案附帶來源、許可、作者和更新時間；
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露，其 System-One 模型 Jev 估值達 100 億美元，日處理量已突破一萬億 token，且夜間流量持續走高，說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一，發布影片 6 天瀏覽量超 3870 萬。
Anthropic 週一發布研究報告，稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理，Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒；GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B，5 次試驗中 4 次全部成功。
Anthropic 前沿紅隊發布研究，測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B，總價約 825 美元，生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點，但依賴外部推理伺服器與預開的免認證 ADB 埠；
有人做了一款工具，追蹤 AI 行業領袖在影片中的公開表態，並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei（累計 54 條）、Alex Karp（51 條）、Marc Andreessen（49 條）、Sam Altman（45 條）、Palmer Luckey（40 條）、Satya Nadella（23 條）、Elon Musk（21 條）、Yann LeCun（6 條）等人，頁面同時標註本週新增條數，例如 Alexandr Wang 本週有 5 條。
Meta 在第三季度財報中宣布發行一類新的無投票權股票，為 AI 投入提供資金，同時用於潛在收購和員工薪酬，交易將於 2027 年開始。CFO Susan Li 在財報電話會上稱，這將擴大公司的融資工具；Meta 表示，在行業 AI 轉型中競爭、維持增長與擴建基礎設施所需的投資規模很大。
DeepSeek-V4.1-Flash-1017 已在 LM Studio Bionic 上線，支援 100 萬 token 上下文與影像輸入，官方稱其價效比很高。該模型由美國境內託管，並提供完整的零資料保留（ZDR）。LM Studio 建議將它用於 coding 任務。
Hacker News 上一條 Ask HN 帖子提問：如果前沿模型已經這麼強，OpenAI、Anthropic 為什麼不自己拿模型去開一批公司、做自己的產品，而是把賣 token 當成主要收入來源。發帖者認為模型正在商品化、價格持續走低，這或許說明應用側比工具側更賺錢。該帖獲得 130 分、109 條評論。
llama.cpp 發布 b11471 建置，主要變更是向詞表加入 Plamo 的 FIM（fill-in-the-middle）tokens，服務程式碼補全場景。該版本發布包覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler，後端包含 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL，以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
SpaceXAI 宣布加入監管 Linux 發行版 Omarchy 的 Omacom 基金會，成為創始企業贊助方，並捐贈價值 150 萬美元的 Grok token。據 David Heinemeier Hansson 的博文，這批 token 主要用於加速開發、審查程式碼和修復 bug。Hansson 是 Ruby on Rails 的創造者、Basecamp 聯合創始人，Omarchy 是他主導且頗具爭議的 Linux 發行版專案。
超聚變在 2026 OCP 全球峰會（10 月 12 日，美國聖何塞）展出 TokenBox 本地 AI 超級工作站，單機可支援最高 1.6 萬億引數模型，包含 DeepSeek V4 Pro，資料完全本地留存，企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統，並發表《Next-Generation Power & Cooling Solutions》主題演講，聚焦供電、散熱與互連。
Meta 的開源權重模型 Muse Spark Open 已在 Ollama 上線，面向程式碼編寫與工具呼叫，上下文視窗達 100 萬 token。使用者可用 ollama run muse-spark-open:cloud 在 Ollama 雲端執行，或用 ollama launch claude muse-spark-open:cloud 接入 Claude Code。該模型目前已向 Max 和 Teams 使用者開放，Pro 使用者稍後可用。
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA，在保持原始 Top-K 選擇結果完全等價的前提下加速索引器，約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界，提前排除約 97% 不可能入選的候選，只對剩餘候選做全部索引頭的精確打分。
是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架，其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax，最佳化目標是滿足服務要求的達標輸出吞吐；另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%，官方註明屬收益測算範例。
MLX 發布 v0.40.0-rc1，核心改動是讓本地 tokenizer 與模型發布方的語義保持一致，涵蓋預分詞階段順序、切分行為、Unicode 邊界、added token 歸一化和 BPE 合併排序，並統一處理空 added token 與空 Metaspace 輸入。同時新增 Go/Python 共享參考用例，直接拉取缺失模型並在出錯時失敗，另加配置優先順序、位元組回退與並行編碼的迴歸測試。
10 月 16 日，範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域（ModelSphere），面向企業免費開源，以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程，可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片，無需為不同晶片重寫底層程式碼。
llama.cpp 建置 b11755 修復了 Metal 後端缺少每 token 9 專家 MoE 核心變體的問題（#30610、#30699），涉及 Apple Silicon 上的 MoE 推理路徑。該版本照例發布全平台預編譯包，覆蓋 macOS/iOS、Linux（CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO）、Android、Windows 及 openEuler 昇騰等後端。
LiquidAI 發布 LFM2.5-24B-A2B：總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型，專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答，能呼叫工具，上下文由上一代 32K 擴到 131K，詞表從 65K 翻倍至 128K。
Meta 發布 Muse Spark Open，這是 816B 總參、42B 啟用的 MoE 開放權重模型，支援 1M token 上下文，可輸入文字、影像、影片與音訊。上線價格為每百萬輸入/輸出 token $1.25/$4.25（快取輸入 $0.15），Together 免費端點開放至 10 月 18 日。
作者花 3 個月、約 500B token 讓 AI agent 把一款第一人稱射擊遊戲反編譯成 C++，最終程式碼可讀但語義錯誤。專案同時使用 Claude Max（20x）與 Codex Pro 訂閱，agent 跑在 Claude Code CLI 與 Codex CLI 裡，主力是 Sonnet 5，也用過 Opus 5.5、Luna、Sol、Terra；
MiniMax M3.1 Flash 已在 Ollama 上線，可通過 Ollama Cloud 用 ollama run minimax-m3.1-flash:cloud 直接呼叫。官方稱該模型在美國託管、零資料保留，主打快速編碼與 agentic 工作流，支援影像理解和 100 萬 token 上下文視窗。它也能以 ollama launch claude 或 ollama launch codex 指定該模型，接入 Claude Code 與 Codex 使用。
Meta Superintelligence Labs 發布第二代模型家族 Muse Wonder 與 Muse Wonder Full，第三方評測機構 Artificial Analysis 給出 Intelligence Index 56 分（Wonder Full）與 52 分（Wonder），接近 Opus 5.5 的 58 分。
Meta Superintelligence Lab 發布 Muse Wonder 與 Muse Wonder Full，這是 Meta 首個前沿模型，官方測試稱基準分數與 Fable 5.1、GPT-6 Astra 相當。通過 Meta Model API 呼叫 Wonder 定價為每百萬輸入 token 4 美元、每百萬輸出 token 20 美元，與 GPT-6 Sol、Opus 5.5 大致同價；
基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版，新增 --list-models 命令可列出可用模型，同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新，這次屬於維護性版本。ttok 可直接通過 uvx 執行，例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。
Kimi K3.1 Pro 正式發布，是 K3.1 系列首個模型，也是目前規模最大的 3T 級開源權重模型，支援 100 萬 token 上下文。同步推出速度提升 2–3 倍的 Highspeed 版本，兩者已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上線，完整權重將於 11 月 4 日前公開。
Linux 基金會旗下 AAIF 新增四個託管專案，Anthropic 把 Agent Skills 規範連同名稱、Logo、GitHub 組織與 agentskills.io 域名一併捐出。其餘三項是 OpenAI 統一模型介面的 Open Responses（AWS 已參與維護與開發）、Hugging Face 的訓練環境框架 OpenEnv、阿里的沙箱 OpenSandbox，AAIF 託管專案增至 10 個、會員達 305 家。
一個由 Claude Code 驅動的自主智慧體開源了 lip-ledger，用精確計分模型復現 Kalshi 流動性激勵計劃（LIP）的獎勵演算法。工具為 Python 3.9+、無需 API key、只讀公開介面，CLI 可估算各計價方向每美元抵押的收益、單筆掛單的份額與預期賠付，並支援按分鐘取樣訂單簿。