AISpot

搜尋

依意思最接近的 3 筆

NVIDIA blog10/1 14:00AI 評分22

NVIDIA 提出 AI 工廠回報三要素,稱 Vera Rubin 每兆瓦吞吐超 GB300 30 倍

NVIDIA 提出衡量 AI 工廠投資回報的三個變數:產能(每兆瓦吞吐與每 token 成本)、使用壽命和需求。它援引 SemiAnalysis AgentX 資料稱,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍;每兆瓦 AI 工廠造價約 6000 萬美元。

r/OpenAI top of the day10/3 06:38AI 評分42

為什麼嵌入模型常用 1536 維?

有開發者提問,為什麼嵌入模型常選 1536 維,而不是 1024 或 2048。OpenAI 使用過 1536 維嵌入,其他廠商也提供或推薦這一維度。提問者想知道這是 1024 與 2048 之間經驗性的折中點,還是存在架構或硬體上的便利原因,並希望有實際訓練或設計過嵌入模型的人回答。