AISpot

搜尋

找到 13 筆

量子位● 精選AI 評分71

SpaceX 為 Anthropic 供算力:22 萬塊 GPU,Claude Code 額度提高

SpaceX 與 Anthropic 的算力協議包含超 300 兆瓦新容量和 22 萬塊輝達 GPU,並提高 Claude Code 與 API 的使用額度;SpaceX 8 月首份財報顯示季度 AI 業務收入 25.61 億美元,同比增長 247%。算力緊張正在重塑矽谷關係,Google 2024 年花 27 億美元請回的 Gemini 聯合負責人 Noam Shazeer 因團隊算力被重新分配轉投 OpenAI。

Latent SpaceAI 評分60

SF Compute 談可程式設計資料中心:GPU 小時可買賣

SF Compute CEO Evan Conrad 在 AI Engineer NYC 上介紹了把資料中心做成可程式設計算力市場的思路。過去自建 GPU 超算叢集需要 5000 萬至 1 億美元前期投入,並要自己打通從硬體、韌體到核心的整棧;如今使用者可在其平台買賣當下與未來的 GPU 小時,按能否中斷、儲存恢復速度、GPU 代際與網路配置等約束撮合訂單。平台強調按物理資產進行交割,也就是向買方交付真正可用的算力,無須按價格指數支付現金;

Hacker News front pageAI 評分70

投機解碼為何更快:算得更少是誤解,它把記憶體瓶頸換成算力

投機解碼提速並不是因為計算量更少,恰恰相反,同一序列的浮點運算總量反而上升。它快在改變了 GPU 的工作型別:逐個 token 解碼時 GPU 處於記憶體瓶頸、算力閒置,而用小草稿模型一次並行驗證多個 token,等於用閒置算力換取單條序列的深度推進。被拒絕的草稿 token 都是白做的功,高吞吐場景下反而浪費算力,因此 vLLM 提供 --speculative-disable-by-batch-size 引數按批大小整體關閉該功能;

Apple Machine Learning Research● 精選AI 評分69

Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲

一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。

Hacker News front page● 精選AI 評分82

InnovationEval:前沿模型花數千美元 GPU 仍未復現人類演算法創新

新評測 InnovationEval 顯示,前沿模型無法獨立復現人類研究者近期做出的機器學習演算法創新:在端到端任務中,它們耗費數千美元 GPU 算力,仍未達到人類論文(on-policy self-distillation,SDPO)的水平。測試要求 AI 自主提出一種新的後訓練方法,在短答題與程式碼任務上後訓練 Qwen3-8B,並超過 GRPO 基線。主要結果來自 Claude Fable 5 與 GPT-5.6 Sol;

TechCrunch AIAI 評分61

Blackstone 高管:AI 基建債務擔憂被誇大

Blackstone 高管 Jas Khaira 在 TechCrunch Disrupt 上稱,對 AI 基建債務的擔憂被誇大:多數資料中心為超大規模廠商而建,債務由信用最好的公司支撐。管理 1.3 萬億美元資產的 Blackstone 自稱是超大規模廠商之外最大的算力持有方,2023 年以 GPU 和客戶合同為抵押向 CoreWeave 放貸 23 億美元,還參與了 Crux AI 50 億美元投資與 Firmus 100 億美元信貸。

量子位AI 評分50

商湯大裝置日均服務 6 萬億 Token,異構推理吞吐提升 5 倍

商湯大裝置日均 Token 服務量已達 6 萬億,並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集,用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU,並支援節點角色動態切換,在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離,後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。

NVIDIA blogAI 評分58

NVIDIA RTX Spark 筆記本開售:2399 美元起,最高 128GB 統一記憶體

搭載 Blackwell RTX GPU 與 Grace CPU 的 RTX Spark 筆記本已正式開售,起售價 2399 美元,最高提供 128GB 統一記憶體與 1 petaflop AI 算力。華碩、戴爾、惠普、聯想、微軟、微星首批出貨,主打在輕薄 Windows PC 上本地執行 AI、內容創作與遊戲,官方稱還有更多機型在路上。

Latent SpaceAI 評分63

Modal 完成 7.5 億美元 D 輪,估值 160 億美元

AI 基礎設施公司 Modal 完成 7.5 億美元 D 輪融資,估值 160 億美元,並稱年化收入已突破 10 億美元。CEO Erik Bernhardsson 在訪談中表示,公司累計啟動近 30 億個沙箱,沙箱業務約佔收入三分之一;該產品早期使用者太少、一度考慮關停,後被 coding agent 與強化學習的需求拉起。

量子位AI 評分53

聯想 YOGA Pro 15 開售,29999 元起,端側可跑千億引數模型

聯想 YOGA Pro 15 RTX Spark 超級 AIPC 於 10 月 16 日全渠道開售,29999 元起,是全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。該晶片整合 6144-core Blackwell RTX GPU 與 20-core Grace CPU,端側 FP4 算力達 1 Petaflop,配 128GB 統一記憶體與 2TB 儲存,官方稱已率先跑通超千億引數本地大模型。

量子位AI 評分44

聯想 YOGA Pro 15 開啟盲約,全球首批搭載 NVIDIA RTX Spark N1X

聯想 YOGA Pro 15 RTX Spark 於 10 月 8 日 9:00 開啟全網盲約,為全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。N1X 整合最高 6144 核 Blackwell RTX GPU 與 20 核 Grace CPU,端側算力達 1 Petaflop FP4,整機最高 128GB 統一記憶體、2TB 儲存、80W 滿功耗,可本地執行超千億引數大模型,並出廠預裝 35B 本地模型。

TechCrunch AI● 精選AI 評分90

Mistral 發布 1T 引數多模態模型 Mistral Large 4

法國 AI 實驗室 Mistral 於週二發布 1 萬億引數多模態模型 Mistral Large 4(ML4),暱稱 Le Chonk。它暫不是開放權重模型,只能通過公開的 guardrail 端點訪問,Mistral 計劃三週內完成安全測試後放出權重。該模型全程用自家算力訓練,僅 4000 塊 Nvidia GPU,官方稱比中國競爭對手少兩到三倍。基準結果未公布,最佳化場景包括網路安全、金融和晶片設計;三星上月以 210 億歐元估值領投其 D 輪。