AISpot

搜尋

依意思最接近的 30 筆

Simon WillisonAI 評分43

tiktoken 命令列工具 ttok 發布 0.4,新增 --list-models

基於 OpenAI 開源 tiktoken 庫的命令列 token 計數工具 ttok 發布 0.4 版,新增 --list-models 命令可列出可用模型,同時修復了一處 Click 警告並更新了 CI。該專案已約兩年沒有更新,這次屬於維護性版本。ttok 可直接通過 uvx 執行,例如把檔案內容用管道傳入 cat file.txt | uvx ttok 就能統計其中的 token 數。

量子位AI 評分50

商湯大裝置日均服務 6 萬億 Token,異構推理吞吐提升 5 倍

商湯大裝置日均 Token 服務量已達 6 萬億,並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集,用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU,並支援節點角色動態切換,在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離,後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。

TechCrunch AIAI 評分70

Anthropic 推出企業報表工具,量化 AI 花費的回報

Anthropic 發布一套面向企業客戶的報表工具:管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡,並獲得改進建議;這些資料預設不用於模型訓練。同時上線團隊共享預算池,用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%;

Hacker News front pageAI 評分62

Treg 上線:一個 token 呼叫數千個 agent 工具

Superdesign 團隊發布 Treg,定位為面向 agent 工具的 OpenRouter:只需一個 base URL 和一個 token,即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點,按次計費、最低一美分起,無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付,團隊自有 key 的呼叫不計費,新驗證團隊可獲 1 美元免費額度。

Hacker News front pageAI 評分48

AI 智慧體開源 Kalshi 做市獎勵精確計分工具

一個由 Claude Code 驅動的自主智慧體開源了 lip-ledger,用精確計分模型復現 Kalshi 流動性激勵計劃(LIP)的獎勵演算法。工具為 Python 3.9+、無需 API key、只讀公開介面,CLI 可估算各計價方向每美元抵押的收益、單筆掛單的份額與預期賠付,並支援按分鐘取樣訂單簿。

機器之心● 精選AI 評分91

OpenAI 12 月起合併 ChatGPT 與 Codex 額度,改按 token 計量

OpenAI 上線用量說明文件:從 12 月起,Plus、Pro、Business 三檔的用量額度在 ChatGPT 與 Codex 之間共用同一個池子,並統一按 token 計算,不再按訊息條數,只有 Instant 聊天不計入額度。具體上線日期與各檔可用 token 數均未公布,額度用盡後可等重置、升級套餐或購買 credits。

Hacker News front pageAI 評分46

Anthropic 文章設想 AI 每秒輸出百萬 token

Anthropic 發布一篇思想實驗文章,探討「每秒 100 萬 token」的四種含義:上下文容量、輸入處理速度、聚合吞吐量和單智慧體輸出速度,並強調這不是對任何現有模型的實測。文中以 Claude Opus 5.5 為例,其上下文視窗為 100 萬 token,但單次請求輸出上限遠小於此。文章用互動計算器演示:若單智慧體達到每秒 100 萬 token,1000 個故事結局約 1 秒寫完,但加入 60 秒固定檢查後,端到端加速從 10000 倍降至 132.57 倍。

TechCrunch AIAI 評分51

YC 的 Garry Tan 每年最多花 20 萬美元買 token

Y Combinator CEO Garry Tan 在播客中透露,他每年為 AI agent 的 token 花費 10 萬至 20 萬美元,並稱這是並非人人都能負擔的特權。他用 agent 處理工作專案與編碼任務,還把 23 個 Claude Code 技能打包成 gstack 在 GitHub 公開。YC 內部另有一個名為 Stray Light 的 agent,掌握其投資過的所有創始人、所有申請與來信的上下文。他認為個人 agent 要走向主流,前提是成本先降下來。

Claude Platform release notesAI 評分57

October 29, 2026

Anthropic 以測試版形式推出 Usage and Cost Analytics,需攜帶 beta header analytics-usage-cost-2026-08-24,通過兩個端點報告 Claude Console 與 Claude Enterprise 組織的 token 用量與成本。結果可按模型、工作區、API key 以及發起請求的使用者或服務帳號篩選與分組。

量子位AI 評分32

基元律動開發者超 30 萬,雙 11 充值滿 50 元贈等額額度

基元律動(TokenRhythm)宣布其 API 平台開發者入駐數超過 30 萬,並開啟雙 11 預售:單筆充值滿 50 元即贈等額模型呼叫額度,活動期間可多次參與、累計贈額不設上限,贈送額度永久有效,歷史贈送額度的有效期也同步調整為永久有效。同期上線的邀請有禮活動,好友註冊並完成實名認證後可獲 18 元額度。平台以一個 API Key 提供主流模型統一入口,並搭配自研開源智慧體 OpenSquilla 做多模型智慧融合路由。

量子位AI 評分53

是石科技發布 TokenFleet 排程框架,首 Token 延遲降 32.4%

是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架,其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax,最佳化目標是滿足服務要求的達標輸出吞吐;另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%,官方註明屬收益測算範例。

llama.cpp releasesAI 評分40

llama.cpp b11782 修復 n>1 時 completion_tokens 少計

llama.cpp 發布建置 b11782,服務端修復了 n 大於 1(一次生成多個候選)時 usage.completion_tokens 統計偏少的問題。該版本同時更新了各平台預編譯包,覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Linux(含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL)以及 Windows、Android、openEuler 等平台。

Hacker News front pageAI 評分20

Canary Tokens 官方使用指南登上 Hacker News,獲 32 分

Canary Tokens 的官方指南文件(docs.canarytokens.org/guide/)在 Hacker News 上被分享,獲得 32 分、8 條評論。指南講解如何部署這類“誘餌”令牌:在系統中放置看似有價值的檔案、憑證或連結,一旦被訪問就觸發告警,用於及早發現入侵和憑證洩露。原文只提供了文件入口和討論串,沒有更多版本或功能更新資訊。

Hacker News front pageAI 評分48

自建 LLM 代理才能看清 token 用量與呼叫日誌

有開發者主張,訂閱制前端自帶的用量面板不足以支撐工程決策,LLM 代理應當自己託管。自建代理可在單一端點聚合多家供應商與模型,記錄哪個金鑰在何時、用哪個客戶端呼叫了哪個模型及其狀態,並用虛擬 API key 避免主金鑰散落在各類 agent 與工具中,還能快速切換模型而不必重新配置。作者不推薦具體代理服務,只建議部署在自己可控的環境並按需改造,例如增加自訂 MCP server 端點;其代理帶 API,編碼會話中的快取未命中可在約 20 秒內手工定位,也可自動化。

機器之心AI 評分28

超聚變 TokenBox 亮相 OCP,單機支援 1.6 萬億引數模型

超聚變在 2026 OCP 全球峰會(10 月 12 日,美國聖何塞)展出 TokenBox 本地 AI 超級工作站,單機可支援最高 1.6 萬億引數模型,包含 DeepSeek V4 Pro,資料完全本地留存,企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統,並發表《Next-Generation Power & Cooling Solutions》主題演講,聚焦供電、散熱與互連。

Hacker News front page● 精選AI 評分80

500B token 反編譯遊戲:AI agent 編排的經驗與教訓

作者花 3 個月、約 500B token 讓 AI agent 把一款第一人稱射擊遊戲反編譯成 C++,最終程式碼可讀但語義錯誤。專案同時使用 Claude Max(20x)與 Codex Pro 訂閱,agent 跑在 Claude Code CLI 與 Codex CLI 裡,主力是 Sonnet 5,也用過 Opus 5.5、Luna、Sol、Terra;

X @claudeaiAI 評分43

Claude 稱 Haiku 5.5 在 10 萬 token 以下任務價效比突出

Claude 官方帳號稱,Haiku 5.5 在 10 萬 token 以下的任務上價效比尤其突出。官方給出的依據是,這類任務約佔此前 Haiku 模型所收到請求的 90%,意味著絕大多數實際呼叫都落在這一區間內。該帖由 @claudeai 發布,未披露 Haiku 5.5 的具體價格、上下文長度或基準測試成績,也未與其他模型做對比。