AISpot

搜尋

依意思最接近的 30 筆

量子位AI 評分50

商湯大裝置日均服務 6 萬億 Token,異構推理吞吐提升 5 倍

商湯大裝置日均 Token 服務量已達 6 萬億,並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集,用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU,並支援節點角色動態切換,在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離,後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。

TechCrunch AIAI 評分51

YC 的 Garry Tan 每年最多花 20 萬美元買 token

Y Combinator CEO Garry Tan 在播客中透露,他每年為 AI agent 的 token 花費 10 萬至 20 萬美元,並稱這是並非人人都能負擔的特權。他用 agent 處理工作專案與編碼任務,還把 23 個 Claude Code 技能打包成 gstack 在 GitHub 公開。YC 內部另有一個名為 Stray Light 的 agent,掌握其投資過的所有創始人、所有申請與來信的上下文。他認為個人 agent 要走向主流,前提是成本先降下來。

量子位AI 評分53

是石科技發布 TokenFleet 排程框架,首 Token 延遲降 32.4%

是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架,其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax,最佳化目標是滿足服務要求的達標輸出吞吐;另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%,官方註明屬收益測算範例。

Hacker News front pageAI 評分46

Anthropic 文章設想 AI 每秒輸出百萬 token

Anthropic 發布一篇思想實驗文章,探討「每秒 100 萬 token」的四種含義:上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度,並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例,其上下文視窗為 100 萬 token,但單次請求輸出上限遠小於此。文章用互動計算器演示:若單智慧體達到每秒 100 萬 token,1000 個故事結局約 1 秒寫完,但加入 60 秒固定檢查後,端到端加速從 10000 倍降至 132.57 倍。

量子位AI 評分55

Jev 估值 100 億美元,創始人稱日處理破萬億 token

TypeSafe AI 聯合創始人兼 CEO Diogo Almeida 在 Latent Space 訪談中透露,其 System-One 模型 Jev 估值達 100 億美元,日處理量已突破一萬億 token,且夜間流量持續走高,說明大量呼叫來自機器自動化。Jev 1.13.0 在第三方 JevBench v1.2.1 綜合榜以 75.3 分排名第一,發布影片 6 天瀏覽量超 3870 萬。

機器之心AI 評分28

超聚變 TokenBox 亮相 OCP,單機支援 1.6 萬億引數模型

超聚變在 2026 OCP 全球峰會(10 月 12 日,美國聖何塞)展出 TokenBox 本地 AI 超級工作站,單機可支援最高 1.6 萬億引數模型,包含 DeepSeek V4 Pro,資料完全本地留存,企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統,並發表《Next-Generation Power & Cooling Solutions》主題演講,聚焦供電、散熱與互連。

Simon WillisonAI 評分43

tiktoken 命令列工具 ttok 發布 0.4,新增 --list-models

基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版,新增 --list-models 命令可列出可用模型,同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新,這次屬於維護性版本。ttok 可直接通過 uvx 執行,例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。

Hacker News front pageAI 評分62

Treg 上線:一個 token 呼叫數千個 agent 工具

Superdesign 團隊發布 Treg,定位為面向 agent 工具的 OpenRouter:只需一個 base URL 和一個 token,即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點,按次計費、最低一美分起,無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付,團隊自有 key 的呼叫不計費,新驗證團隊可獲 1 美元免費額度。

量子位AI 評分49

趨境科技完成超 13 億元 B 輪融資,年內累計融資 24 億元

趨境科技完成超 13 億元人民幣 B 輪融資,今年內累計募資 24 億元。資金將投向高品質 AI Token 產能擴張、ATaaS 平台迭代與推理底層技術研發。該公司稱,半年內日均 Token 產量增長超百倍至萬億量級,業務收入達到去年全年近十倍,且整體業務已跨過成本線。公司團隊牽頭髮起開源專案 KTransformers,並稱其國產晶片異構推理方案在真實生產環境中的價效比已超越國際最領先算力。

量子位AI 評分46

AI 程式設計模型集體滿口黑話:思維鏈壓縮省 70% Token

量子位發文吐槽,Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析,除 Coding 過擬合外,更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」,OpenAI 最早這麼做,同樣一句話的 Token 消耗比白話文少 70%;Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯,而 Gemini 因輸出風格正常、排版層級清晰,被社群視為少數還能正常溝通的 AI。

Hacker News front pageAI 評分53

思科給工程師不限量 AI token,24 個月重寫 98% 遺留程式碼

思科給一名 27 歲工程師不限量的 AI token 額度,要求他在 24 個月內重寫公司 98% 的遺留程式碼。這名工程師是前創業公司創始人,由公司總裁親自挑選,並被明確告知可以放手去做。該訊息來自 Tom's Hardware 的報導,沒有說明具體會使用哪些模型或工具,也沒有披露預算、團隊規模與驗收標準。

TechCrunch AIAI 評分70

Anthropic 推出企業報表工具,量化 AI 花費的回報

Anthropic 發布一套面向企業客戶的報表工具:管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡,並獲得改進建議;這些資料預設不用於模型訓練。同時上線團隊共享預算池,用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%;

Hacker News front pageAI 評分36

HN 討論:模型這麼強,OpenAI 為何不自己開公司做應用

Hacker News 上一條 Ask HN 帖子提問:如果前沿模型已經這麼強,OpenAI、Anthropic 為什麼不自己拿模型去開一批公司、做自己的產品,而是把賣 token 當成主要收入來源。發帖者認為模型正在商品化、價格持續走低,這或許說明應用側比工具側更賺錢。該帖獲得 130 分、109 條評論。

Hacker News front page● 精選AI 評分80

500B token 反編譯遊戲:AI agent 編排的經驗與教訓

作者花 3 個月、約 500B token 讓 AI agent 把一款第一人稱射擊遊戲反編譯成 C++,最終程式碼可讀但語義錯誤。專案同時使用 Claude Max(20x)與 Codex Pro 訂閱,agent 跑在 Claude Code CLI 與 Codex CLI 裡,主力是 Sonnet 5,也用過 Opus 5.5、Luna、Sol、Terra;

機器之心● 精選AI 評分68

Jev 走紅,NeurIPS 2025 論文 ConfTuner 早已探索相似思路

TypeSafe AI 的 Jev 模型近期走紅,其介面可直接返回預設選項、分數或事件機率,供程式碼呼叫,但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score,僅用對錯標籤即可訓練置信度機率分佈,在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884,4 張 A40 上約 4 分鐘完成微調。

llama.cpp releasesAI 評分40

llama.cpp b11782 修復 n>1 時 completion_tokens 少計

llama.cpp 發布建置 b11782,服務端修復了 n 大於 1(一次生成多個候選)時 usage.completion_tokens 統計偏少的問題。該版本同時更新了各平台預編譯包,覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Linux(含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL)以及 Windows、Android、openEuler 等平台。

Hacker News front pageAI 評分20

Canary Tokens 官方使用指南登上 Hacker News,獲 32 分

Canary Tokens 的官方指南文件(docs.canarytokens.org/guide/)在 Hacker News 上被分享,獲得 32 分、8 條評論。指南講解如何部署這類“誘餌”令牌:在系統中放置看似有價值的檔案、憑證或連結,一旦被訪問就觸發告警,用於及早發現入侵和憑證洩露。原文只提供了文件入口和討論串,沒有更多版本或功能更新資訊。

Google Developers blogAI 評分62

A2UI 推出 Express 格式:token 用量最多減至 1/3

A2UI 支援可切換推理格式,新增的 A2UI Express 會把緊湊的 Python 風格語法經 Agent SDK 編譯成標準 A2UI JSON,token 用量最多減少 3 倍,延遲同步下降。開發者還可以結合 TypeSafe 的 Jev 系統決策模型進行受控生成,在 300ms 內渲染出已知結構的介面,同時讓較小模型流式輸出文字。前端渲染器與元件目錄無需改動,Python、TypeScript、Dart 均可使用。

機器之心● 精選AI 評分84

Anthropic 研究:AI 可在廉價電視盒子上自主複製傳播

Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;

The Verge AIAI 評分70

OpenAI、Google、微軟、Anthropic 將採用統一免抓取標準

OpenAI、Google、Microsoft 與 Anthropic 表示將採用一項新的統一標準,讓出版商一次性宣告網站內容不希望被 AI 抓取。這一共享的 policy token 訊號由 Anthropic 標準技術負責人 Kevin Kelley 在 IETF 提出,將寫入網站既有的 robots.txt 檔案,該檔案長期用於告知爬蟲能否抓取站點,用途涵蓋搜尋索引、歸檔等。此前出版商需要針對各家 AI 公司分別設定訓練偏好。

OpenAI News● 精選AI 評分64

OpenAI:Codex 與 ChatGPT Work 佔歐盟企業輸出 token 過半

OpenAI 經濟研究的報告顯示,在歐盟 ChatGPT Enterprise 客戶中,Codex 與 ChatGPT Work 已佔輸出 token 的一半以上,AI 使用正從提問轉向由 agent 執行任務。2026 年 5 月以來,歐盟中小企業中這兩款產品的周活躍使用者增長超過 8 倍,覆蓋每個成員國;但國別差異明顯,其輸出 token 佔比從斯洛維尼亞的 22% 到立陶宛的 85%。

Hacker News front pageAI 評分70

Revolut 讓 2000 名工程師改用自託管 GLM,Claude Code 與 Codex 轉為例外

Revolut 已將約 2000 名工程師的編碼工作遷到自託管 GLM,並把 Claude Code 與 Codex 列入例外名單。據負責 AI 運維的 David Abitbol 披露,這套叢集為 56 張 Nvidia B200,混合成本約每百萬 token 30 美分,約為付給 Anthropic 與 OpenAI 的十分之一,工程交付週期縮短 70%。他還指出,收益出現在 token 不再被限量之後:工程師不再把 AI 留給難題,而是對所有任務都用。

量子位● 精選AI 評分82

TypeSafe AI 完成 8.7 億美元 A 輪,Jev 估值達 75 億美元

Jev 母公司 TypeSafe AI 完成 8.7 億美元 A 輪融資,投後估值 75 億美元,距 9 月 15 日種子輪的 2 億美元僅 24 天。Jev 砍掉生成能力、只做分類打分與選擇,輸出 token 永久免費,輸入每百萬 token 0.042 美元;上線 3 天日吞吐量達 1 萬億 token,接入 Vercel AI Gateway 後 24 小時內被近 13% 付費團隊採用,約三分之一《財富》500 強已在用。

Google Developers blogAI 評分64

Google OAuth 新增 DPoP 支援,為重新整理令牌繫結持有證明

Google OAuth 平台現已支援 DPoP(Demonstrating Proof-of-Possession),對重新整理令牌做傳送方約束,以抵禦資訊竊取類惡意軟體與中間人攻擊。做法是把長期有效的重新整理令牌與金鑰做密碼學繫結,短期訪問令牌仍按標準 Bearer 令牌使用,因此不會帶來高 QPS 下的 API 效能開銷。開發者若在搭建多智慧體或 MCP 工作負載,還可用 Google Cloud STS 在智慧體鏈路上完成安全的令牌委派。

機器之心AI 評分51

奧特曼提 AI 競賽三種終局,最壞可癱瘓對手 GPU

OpenAI CEO 奧特曼在內部員工會議上提出 AI 競賽的三種終局:建立全球監管機構、頂級實驗室合併為一,以及一家公司率先突破關鍵技術。最極端情形下,率先突破的公司甚至能讓競爭對手的 GPU 集體癱瘓,奧特曼稱這是「糟糕透頂」的結局。前兩條分別參考 IAEA 與 CERN 模式;他也承認 OpenAI 目前無法輕易放棄技術領先爭奪。

Hacker News front pageAI 評分37

新工具追蹤 AI 領袖影片言論,Amodei 累計 54 條

有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。