依意思最接近的 4 筆
NVIDIA 提出衡量 AI 工廠投資回報的三個變數：產能（每兆瓦吞吐與每 token 成本）、使用壽命和需求。它援引 SemiAnalysis AgentX 資料稱，Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上，在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍；每兆瓦 AI 工廠造價約 6000 萬美元。
開發者 roofkid 發布 Ninfer 4080，讓 RTX 4080 16GB 顯示卡以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ，最高預填充 2720 tok/s、生成 262 tok/s，程式碼已在 GitHub 開源並提供 Docker 映象。它採用 DFlash2 投機解碼，作者稱預填充與生成速度明顯優於 llama.cpp、vllm 等通用推理引擎，代價是 KV 量化帶來輕微精度損失。
Vx 是一門面向異構計算的系統程式語言，把 CPU、GPU、NPU 與加速器記憶體納入型別系統，主機執行緒解引用裝置指標會直接編譯報錯。它要求跨記憶體空間顯式呼叫 transfer()，並用機器檔案描述 H100、H200、B200、A100、MI300X、Apple M4 等真實硬體的記憶體層級與互連，編譯期校驗放置是否可行。
微軟發布 FrogNano-4B-2609，一個面向算力有限開發者的 4B 智慧體模型，Hugging Face 上已有 GGUF 量化版本。它由 Qwen3.5-4B 派生，沿用 32 層混合 Gated DeltaNet 與門控注意力架構，後訓練為純文字、聚焦倉庫級軟體工程，用強化學習在約 1500 個 TaskPilot 生成的合成 SWE 環境上訓練，獎勵來自可執行測試，配套五工具的 Leaf harness。與行為蒸餾不同，它不訓練強模型的解題軌跡。