搜尋 關鍵字 語意 找到 45 筆
Hacker News front page● 精選 10/24 09:58 AI 評分81
GPU-unlock 1.0.0 發布,這個 Linux 核心模組能在 NVIDIA 驅動繫結前解鎖 GA102/GA103/GA104/GA106(RTX 30 系部分顯示卡)的 FP/BF16 指令發射速率,使其達到專業卡水平。3090 Ti 實測 BF16 GEMM 從 87.50 升至 157.41 TFLOPS,FP16 從 87.46 升至 118.39,TF32 從 42.58 升至 82.61;
Hacker News front page● 精選 11/4 08:46 AI 評分79
在 MSI Prestige 等 RTX Spark 筆記本上安裝原生 Linux 後,插電時 GPU 被鎖在約 780MHz,GPT-OSS-120B 推理只有 13.9 tokens/s,而 Windows 與 WSL 都在 65 tokens/s 左右,約慢 5 倍。
Hacker News front page11/4 11:02 AI 評分66
RTX 5090 在美國的實際售價已超過 9000 美元,比 1999 美元的首發價高出 370%,Nvidia 尚未上調官方 MSRP。漲價波及整條 RTX 50 系列:5080 在美國高於建議價 120%,5060 Ti 16GB 約 800 美元(+84%),5050 由 260 美元漲至 420 美元。ZDNET 稱,Nvidia 本週還通知了新一輪調價,其中 5090 幅度最大,接近 500 美元,並把這輪調價歸因於 AI 驅動的記憶體短缺;
機器之心10/31 03:16 AI 評分63
無問芯穹的 GPU 運算元最佳化 Agent 框架在 NVIDIA Research 的 SOL-ExecBench 上登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理四大賽道;在全部 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍。該系統把工作區、除錯區和評測區徹底隔離,評測容器停用網路,並用 Skills、共享記憶與統一 GPU 排程讓 Agent 完成程式碼生成、評測驗證、效能分析和策略調整的閉環。
TechCrunch AI10/27 11:00 AI 評分60
輝達參投印度初創公司 Simplismart 的 1400 萬美元 B 輪融資,本輪由 Dallas Venture Capital 領投,Accel、Shastra VC、Micromax 跟投,公司估值約 1 億美元。其軟體位於模型與算力之間,自動調配推理速度、吞吐量和 GPU 消耗,可部署在客戶自有云或本地環境,還提供微調、彈性擴縮容與效能監控。
NVIDIA blog10/22 15:00 AI 評分61
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
Hugging Face blog● 精選 10/9 15:20 AI 評分69
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
NVIDIA blog10/21 10:30 AI 評分55
NVIDIA cuDSS 結束預覽轉為正式可用,這個 CUDA-X 庫把工程與科學模擬中最耗時的大規模稀疏方程組求解交給 GPU。官方給出的合作方資料包括:應用材料在 Ginestra 中稀疏求解最高提速 10 倍,達索系統 Abaqus 的結構與電磁求解器提速 8 至 10 倍,蔡司 SMT 用 COMSOL 跑 EUV 光刻等離子體基準取得 4 倍加速、整輪模擬 6 天 14 小時完成。
NVIDIA blog10/21 10:30 AI 評分59
輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。
The Verge AI10/12 13:00 AI 評分67
微軟發布第三代自研 AI 晶片 Maia 300,將其定位為微軟產品與服務的主要 AI 推理系統,計劃 2027 年開始投入生產部署。微軟雲業務執行副總裁 Scott Guthrie 表示,相比主流的 GPU 系統,Maia 300 每兆瓦可多輸出 40% 的 token,並更能應對最新的推理模型與 agentic 任務。該晶片的設計目標是提升雲端 AI 工作負載的成本與效率,減少對 Nvidia GPU 的依賴。
NVIDIA blog10/21 10:45 AI 評分62
Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。
NVIDIA blog● 精選 10/1 23:44 AI 評分85
GPT-6 Astra Ultrafast 已在 OpenAI API 上線,並向符合條件的 ChatGPT Work 與 Codex 使用者開放,執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍,可縮短 coding agent 的編輯—測試—除錯迴圈,並減少工具呼叫之間的等待。開發者可通過 API 使用,訪問方式、價格與實現細節見 Ultrafast 指南。
X @ollama● 精選 10/15 23:50 AI 評分66
NVIDIA Nemotron 3.5 Super VL 現已在 Ollama 上線,可用 ollama run nemotron-3.5-super 直接拉取執行。該模型同時具備推理與視覺理解能力,覆蓋多種 agent 工作流。官方稱在單張 GPU 上,它的 agent 任務吞吐量最高可達同尺寸其他開源模型的 5 倍。
NVIDIA blog10/23 02:00 AI 評分41
Firebird 與哈薩克政府簽署投資協議,獲美國出口許可在當地部署 4.5 萬塊 NVIDIA Grace Blackwell GPU,首期 AI 工廠與 Kazakhtelecom 共建,目標 2027 年第三季度商用,二期規劃使總容量達約 500 兆瓦。
TechCrunch AI● 精選 10/20 18:38 AI 評分80
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
NVIDIA blog10/15 05:00 AI 評分30
由 Ericsson、AstraZeneca、Saab、SEB 等組成的瑞典聯合體啟用 Sferical One 超算,執行在兩套 NVIDIA DGX SuperPOD 上,共 16 機架 DGX GB300 系統、1152 塊 GPU,並將基於 Nemotron 開源模型建置服務。北歐正成為歐洲增長最快的基礎設施樞紐,AI 雲預計到 2027 年底在該地區部署 1 吉瓦容量,Bitdeer、CoreWeave、Nscale 等均在列。
NVIDIA blog10/17 21:00 AI 評分58
搭載 Blackwell RTX GPU 與 Grace CPU 的 RTX Spark 筆記本已正式開售,起售價 2399 美元,最高提供 128GB 統一記憶體與 1 petaflop AI 算力。華碩、戴爾、惠普、聯想、微軟、微星首批出貨,主打在輕薄 Windows PC 上本地執行 AI、內容創作與遊戲,官方稱還有更多機型在路上。
量子位10/8 10:23 AI 評分44
聯想 YOGA Pro 15 RTX Spark 於 10 月 8 日 9:00 開啟全網盲約,為全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。N1X 整合最高 6144 核 Blackwell RTX GPU 與 20 核 Grace CPU,端側算力達 1 Petaflop FP4,整機最高 128GB 統一記憶體、2TB 儲存、80W 滿功耗,可本地執行超千億引數大模型,並出廠預裝 35B 本地模型。
NVIDIA blog● 精選 10/21 10:30 AI 評分65
NVIDIA 為 Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型廠商能在第三方裸金屬基礎設施上執行敏感負載,同時保留對模型和資料的控制。至此機密計算共有裸金屬、Kubernetes 容器、虛擬機器三種部署形態,並新增傳輸中資料保護、平台完整性度量與硬體級訪問限制等控制。
TechCrunch AI10/26 16:46 AI 評分67
SpaceX 與 Apollo 管理的實體達成約 400 億美元的約束性 GPU 融資協議:由 Apollo 一方購買輝達下一代 Vera Rubin 晶片及伺服器硬體,再租給 SpaceX,租期約五年至五年零三個月,預計年底完成交割、2027 年上半年隨裝置到貨起租。SpaceX 稱這是規模最大的已承諾 GPU 融資,其 CFO 表示 AI 基礎設施投資回收期不到一年。
NVIDIA blog10/19 15:00 AI 評分45
歐洲廣播聯盟(EBU)與 NVIDIA 擴充套件其主權 AI 框架,把主權雲廠商、開源模型開發方與系統整合商納入,為廣播機構部署 agent 規定資料、模型與安全的參考架構;EBU 覆蓋 55 國 115 家以上成員機構、受眾超 10 億。微軟以 Azure Local、Foundry Local 支援本地處理敏感素材,Nebius 提供歐洲境內模型訓練與微調,NVIDIA Nemotron 開源模型可供定製,Qvest 等負責落地整合。
The Verge AI10/15 14:30 AI 評分51
微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會,這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構,而非 AMD、Intel 傳統的 x64,並搭配高效能 GPU,定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作,讓 Windows 適配這批新機器。
llama.cpp releases10/5 05:24 AI 評分42
llama.cpp 合併 PR #29633,在 CUDA 後端針對小批次場景的 thin f16/bf16 mul_mat 改用 MMVF 指令,並調整了核心選擇邏輯。該改動由 NVIDIA 工程師提交,影響 Ubuntu 與 Windows 的 CUDA 12/13 建置,面向在 NVIDIA GPU 上執行本地推理的使用者。
Hugging Face blog● 精選 10/16 01:44 AI 評分75
NVIDIA 與 IIT Madras 的 AI4Bharat 實驗室聯合發布 Nemotron-pretraining-Indic-v1,約 2.8 萬億 token,覆蓋印度憲法列出的 22 種語言,即將開源,同時開放用於生成該語料、GPU 加速的資料生產流程。語料含 2,601.0 億原生文字 token 與 224.6 億羅馬化 token(按 Gemma-4 分詞器計),共 34 種語言—文字組合,其中 12 種語言另有羅馬化文字。
量子位10/28 08:00 AI 評分61
無問芯穹(Infinigence AI)在輝達研究院的 GPU 運算元效能評測榜 SOL-ExecBench 上先後登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理全部四大賽道;截至 10 月 26 日仍在 L1 與 Quant 兩賽道總分全球第一,在 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍,其中 L2 賽道的 82 道題中佔了 39 項第一。
llama.cpp releases10/25 15:19 AI 評分39
llama.cpp 發布 b11878,CUDA 後端新增 Qwen MRoPE 與 set-rows 的運算元融合(PR #31025),把這兩步計算合併進單個 GPU kernel。MRoPE 是 Qwen 系列模型使用的多維旋轉位置編碼,該改動面向在 NVIDIA GPU 上執行 Qwen 的本地推理使用者。
NVIDIA blog11/3 16:00 AI 評分35
NVIDIA 公布一系列半導體制造合作,把 GPU 加速與物理 AI 接入模擬、光刻、刻蝕與測試環節。應用材料 ACE+ 形貌模擬最高提速 35 倍,西門子 Calibre 光刻模擬最高 17 倍,COMSOL 多物理場模擬與應用材料 Ginestra 約 10 倍,泛林 SEMulator3D 刻蝕建模預計最高 30 倍。等離子體預測從數天縮短到毫秒級,愛德萬用 AI agent 把模型選擇從數小時降到數分鐘。
Ars Technica AI10/2 18:39 AI 評分73
美國司法部 10 月 2 日宣布逮捕 38 歲的 Earthmade Computer 執行長 Greg Lui,指控其利用虛假檔案將價值超 3 億美元的受出口管制輝達晶片伺服器走私至中國。起訴書稱,Lui 涉嫌與馬來西亞、新加坡等南亞國家的貨運代理公司合謀,非法轉運輝達 A100 和 H100 GPU。美方擔憂這些晶片可用於訓練大語言模型,可能帶來國家安全風險。
Ars Technica AI● 精選 10/8 00:00 AI 評分80
微軟在兩年來的首場線下活動中發布 Surface Laptop Ultra,這是首款搭載 Nvidia RTX Spark SoC 的裝置,起售價 2599 美元,10 月 16 日開始發貨,現已開啟預售。它可選 5120 核或 6144 核 Blackwell GPU,統一記憶體最高 128GB LPDDR5x,依靠統一記憶體分配而非傳統視訊記憶體上限,兼顧本地 AI 開發部署與 3A 遊戲執行。
NVIDIA blog10/22 05:00 AI 評分43
Revolut 正圍繞單一基礎模型 PRAGMA 重建技術棧,在 NVIDIA Blackwell Ultra GPU 上用 cuDF 與 Dynamo-Triton 在生產環境擴容,初期服務 8000 萬使用者,並設計為可再擴 3 倍。同場公布的歐洲金融案例還包括 Starling Bank 在 Civo 英國雲上用自有交易資料訓練 agentic 模型、Lloyds 用 RTX PRO 6000 Blackwell 打造交易基礎模型 ATUM。
NVIDIA blog● 精選 10/30 15:00 AI 評分67
SETI 研究所與 Breakthrough Listen 將 agentic AI 引入艾倫望遠鏡陣列的日常搜尋,研究人員只需說一句自然語言,就能讓 agent 操控天線、校準裝置、糾正資料錯誤並繪圖。基於 NVIDIA Holoscan 的 DAQIRI 把每秒 2.4 Tb 的感測器資料直接送入 GPU 記憶體即時處理,再由 Nexus 統一編排儀器狀態與計算資源。該系統已在蟹狀星雲完成首次即時 AI 脈衝星探測;
llama.cpp releases10/28 10:15 AI 評分43
llama.cpp 發布 b11953 建置版本,CUDA 後端新增針對 384 個專家的 Top-K MoE 融合運算元(#31288),由 Codex 輔助完成,可加速此類稀疏 MoE 模型在 NVIDIA GPU 上的推理。該版本同步放出 macOS、Linux、Windows、Android 等多平台預編譯包,覆蓋 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 及驍龍 Adreno/Hexagon 等後端。
llama.cpp releases10/6 18:34 AI 評分45
llama.cpp 發布建置 b11448,ggml-cuda 後端把大塊 BF16/FP16 到 F32 的轉換改為分塊執行(#29442),並修正分塊 cuBLAS 矩陣乘法未遵循目標 stride 的問題,提交由 Johannes Gäßler 參與。改動僅涉及 CUDA 後端,影響用 NVIDIA GPU 做本地推理的場景;該建置同時覆蓋 macOS Apple Silicon 與 Linux、Windows 的 CUDA 12/13 等平台。
Simon Willison● 精選 10/6 20:18 AI 評分84
Mistral 放出 Mistral Large 4 預覽版:1 萬億總引數、490 億啟用引數,在自建 3800 塊 NVIDIA Grace Blackwell GPU 叢集上訓練。預覽版目前只通過 Mistral API 提供,官方承諾月底發布開放權重版本。該 API 僅支援 none 和 high 兩檔推理等級,high 檔生成同樣題目時用了 2717 個輸出 token,反而少於 none 檔的 3275。
機器之心● 精選 10/24 15:00 AI 評分79
Inception Labs 發布擴散語言模型 Mercury 3,在 NVIDIA GPU 上輸出速度達 1068 Token/s,約為 GPT-6 Luna 的 8 倍,且在 GPQA Diamond(89.23)、SWE-Bench Atlas(51.08)等基準上高於 GPT-6 Luna 與 Claude Haiku 5.5。其總引數量較 Mercury 1 擴大 40 多倍,上下文視窗從 26 萬升至 100 萬 Token。
Hacker News front page10/19 17:27 AI 評分71
Inception 發布擴散架構大模型 Mercury 3,稱在多項基準上超過 GPT-6 Luna 與 Claude Haiku 5.5,NVIDIA GPU 上速度達 1068 token/秒,為後兩者的 4–8 倍。其引數量比 Mercury 1 擴大 40 倍以上,上下文從 Mercury 2.5 的 260K 提升到 1M。定價為每百萬輸入 token 0.20 美元、輸出 0.70 美元,發布期五折,快取輸入再降 90%。
Ollama releases10/14 19:45 AI 評分42
v0.40.5 把 MLX 原本為 Metal 寫的自訂核心移植到 CUDA,MLX 推理路徑由此延伸到 NVIDIA GPU。同一版本中,OpenAI 相容層可在 Responses 歷史裡接受自訂工具呼叫,應用端澄清了雲支付報錯提示,文件更新模型推薦並統一措辭。此外還有 MLX 的版本號提升,以及新貢獻者 @willietran 的首次提交。
Hacker News front page● 精選 10/6 13:25 AI 評分92
Mistral 於 10 月 6 日開啟 Mistral Large 4 公開預覽,可在 Mistral Studio 呼叫 API,權重本月底放出。模型為 1 萬億引數原生多模態、49B 啟用引數,在歐洲自有資料中心用 3800 張 NVIDIA Grace Blackwell GPU 從零訓練。官方稱其在 Artificial Analysis Cyber Index 位列全球前五,漏洞復現並修補測試得 82% 為所有模型最高,Cybench 解決 93%;
Hacker News front page10/26 21:18 AI 評分39
Corridor Digital 發布 CorridorKey 2.0:一款本地執行的一鍵摳像(綠幕/藍幕)外掛,買斷價 58.91 美元,11 月 21 日恢復 117.81 美元。一次購買覆蓋 Resolve、Nuke、After Effects、Premiere、Blender 與獨立應用,團隊版 5 至 24 席每位 42.50 美元。它通過預測半透明前景的顏色來解決 un-mixing 問題,並對整段影片做時間一致性分析以消除閃爍。
Hacker News front page10/30 17:03 AI 評分69
spinf-serve 以 Apache 2.0 開源,是一個面向批次分類與決策的推理伺服器:它只讀一遍內容,就同時回答多個問題,對每個選項返回機率而不是生成文字。單張 24GB NVIDIA GPU(RTX 4090/5090、L4、L40S、H100 等)即可執行,提供與託管服務一致的 OpenAI 相容 API,可用 pip 或 Docker 映象啟動。
Hugging Face blog● 精選 10/15 00:00 AI 評分95
Meta 發布開放權重模型 Muse Spark Open,採用混合專家架構,總引數約 816B、每 token 啟用約 42B,可輸入文字、影像、音訊和影片,輸出文字,上下文視窗最高 100 萬 token。模型針對 agentic coding 訓練,能閱讀程式碼庫、編寫與除錯程式碼並呼叫工具。官方提供 BF16 與 NVFP4 兩種權重,BF16 約 1.5TB,NVFP4 為 4 位精度、面向 NVIDIA Blackwell GPU。
量子位10/16 13:48 AI 評分53
聯想 YOGA Pro 15 RTX Spark 超級 AIPC 於 10 月 16 日全渠道開售,29999 元起,是全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。該晶片整合 6144-core Blackwell RTX GPU 與 20-core Grace CPU,端側 FP4 算力達 1 Petaflop,配 128GB 統一記憶體與 2TB 儲存,官方稱已率先跑通超千億引數本地大模型。
TechCrunch AI10/24 16:00 AI 評分65
Block 研究實驗室發布語音模型 Dessa,它能一邊說話一邊傾聽,並可在 MacBook M4 Max 等消費級裝置上本地執行。該模型完全以人類語音資料訓練,使用了單個 Nvidia GPU 機架;笑聲、停頓與情緒都內建於模型本身,不依賴文字標籤或文字中轉來驅動。Block 稱目前不對外開放,僅招募安全研究員測試,重點評估語音代理是否可能欺騙對話另一方。
TechCrunch AI● 精選 10/6 14:33 AI 評分90
法國 AI 實驗室 Mistral 於週二發布 1 萬億引數多模態模型 Mistral Large 4(ML4),暱稱 Le Chonk。它暫不是開放權重模型,只能通過公開的 guardrail 端點訪問,Mistral 計劃三週內完成安全測試後放出權重。該模型全程用自家算力訓練,僅 4000 塊 Nvidia GPU,官方稱比中國競爭對手少兩到三倍。基準結果未公布,最佳化場景包括網路安全、金融和晶片設計;三星上月以 210 億歐元估值領投其 D 輪。
量子位● 精選 10/23 09:03 AI 評分66
重慶達瓦科技的即時世界模型 Scenes AI 在 10 月 15 日的 NVIDIA 創業企業展示半程展示上獲得卓越企業獎。它不逐幀重畫畫面,而是維護一組可單獨讀寫的世界狀態、只對變化區域做稀疏擴散,從而在單張消費級 RTX 顯示卡上實現 720P、25 幀即時輸出。模型總引數 34B、每步僅啟用約 4B(約 11.8%),官方稱相較傳統影片擴散方案 GPU 消耗降低 40%—60%、推理速度提升 3—5 倍;