找到 3 筆；也可以試試 語意搜尋
NVIDIA 提出衡量 AI 工廠投資回報的三個變數：產能（每兆瓦吞吐與每 token 成本）、使用壽命和需求。它援引 SemiAnalysis AgentX 資料稱，Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上，在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍；每兆瓦 AI 工廠造價約 6000 萬美元。
一篇 2026 年 10 月 3 日發布的思想實驗文章指出，每秒一百萬 token 可指四種不同含義：上下文容量、輸入處理速度、聚合吞吐量和單 agent 輸出速度，其中只有最後一種才是真正的寫作速度。文章用計算器演示：100 萬輸出 token 在 100 token/秒下需 2 小時 46 分 40 秒，在 100 萬 token/秒下僅 1 秒；但若寫作後加一次 60 秒的固定檢查，端到端加速從 10000 倍降到 132.57 倍，檢查佔 98.7% 時間。
NVIDIA 的 30B 總引數（3B 啟用）開源模型 Nemotron 3.5 Lightning 已上線 Ollama，可完全在本地裝置執行。它採用混合 MoE 架構，支援最長 1M token 上下文，並用多 token 預測、DFlash 或 DSpark 投機解碼，吞吐達同類開源模型 4 倍、任務完成時間快 30%，面向呼叫工具、跑測試、檢索程式碼庫等長時 agent 任務。