找到 8 筆
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研（385 名受訪者）顯示，79% 的企業表示其 GPU 至少一半時間完全閒置，這一比例三個月穩定在 77% 至 81%。但在這批企業中，70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台；計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API，僅 8% 考慮擴建本地私有叢集。
輝達參投印度初創公司 Simplismart 的 1400 萬美元 B 輪融資，本輪由 Dallas Venture Capital 領投，Accel、Shastra VC、Micromax 跟投，公司估值約 1 億美元。其軟體位於模型與算力之間，自動調配推理速度、吞吐量和 GPU 消耗，可部署在客戶自有云或本地環境，還提供微調、彈性擴縮容與效能監控。
一篇新論文提出 Minions：把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲，用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長，而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載，具體排程方式與效能資料未在摘要中給出。
IBM CEO Arvind Krishna 在第三季度財報電話會上稱，開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分，縮小到 2025 年底的 70 分對 50 分，認為企業大多數任務（總結郵件、審查合同、客服應答）用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫，稱兩三機架即可搭建，但企業缺核心、網路與 GPU 叢集調優人才；
微軟發布第三代自研 AI 晶片 Maia 300，將其定位為微軟產品與服務的主要 AI 推理系統，計劃 2027 年開始投入生產部署。微軟雲業務執行副總裁 Scott Guthrie 表示，相比主流的 GPU 系統，Maia 300 每兆瓦可多輸出 40% 的 token，並更能應對最新的推理模型與 agentic 任務。該晶片的設計目標是提升雲端 AI 工作負載的成本與效率，減少對 Nvidia GPU 的依賴。
Reddit 的 r/LocalLLaMA 版塊一則帖子下，使用者討論用低成本硬體本地跑大模型。有人稱 2014 至 2018 年的 2 至 4 路 DDR3 CPU 伺服器最省錢，可讓 Qwen 3.8 Flash 跑到 15 tok/s 以上；也有人表示雙 7900XTX 不到 2000 美元即可支援 27B Q8 模型超過 220k 上下文。
卡內基梅隆、MIT、紐約大學與斯坦福的研究團隊開發出 AI「Ataraxos」，以 15 勝 1 負 4 平擊敗被公認為史上最強的 Stratego 選手 Pim Niemeijer。此前連 DeepMind 都未能造出穩定戰勝頂尖人類玩家的 Stratego 機器。該 AI 僅用 16 塊 GPU、數千美元訓練成本，相關成果針對的是資訊不完全、隱藏資訊隨時間長期展開的博弈。
商湯大裝置日均 Token 服務量已達 6 萬億，並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集，用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU，並支援節點角色動態切換，在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離，後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。