搜尋 關鍵字 語意 依意思最接近的 30 筆
TechCrunch AI● 精選 10/20 18:38 AI 評分80
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
Hacker News front page● 精選 10/20 16:40 AI 評分84
Google 開源 TorchTPU,讓 PyTorch 模型可直接跑在 TPU 上,PyPI 最新版本為 0.2.0。專案提供 TPU 的 ATen 核心實現、XLA 計算編譯快取,支援資料並行與張量並行分散式訓練,並接入 torch.compile() 圖模式執行,附帶 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等範例。安裝要求 Python 3.11+,Marimo 互動筆記本需在 TPU VM(如 v6e 例項)上執行。
Hugging Face blog● 精選 10/20 00:00 AI 評分77
Hugging Face 宣布 PyTorch 原生 TPU 後端 TorchTPU 落地,Transformers、Diffusers 與 Kernels 現在可直接在 TPU 上執行,不再需要 torch_xla 或 Optimum TPU。安裝只需一條 pip 命令;
Google Developers blog10/20 16:50 AI 評分60
TorchTPU 將原生 torch.device("tpu") 後端接入 PyTorch,開發者無需改用 JAX 即可在 Google Cloud TPU 上訓練大模型。配套的 TorchTitan TPU 分支提供 SimpleFSDP、Graph Trainer 和自訂 Pallas 核心等生產級擴充套件,在稠密與 MoE 架構上取得較高 MFU。官方還給出最佳化 playbook、recipes 與 Hugging Face 建模後端,便於在 TPU 上擴充套件自有負載。
Google Developers blog● 精選 10/20 16:50 AI 評分72
vLLM 與 SGLang 新增由 TorchTPU 驅動的原生 PyTorch 後端,開發者可用熟悉的 PyTorch 工具在 TPU 上執行並調優推理服務。引擎內建最佳化過的 TPU kernel、基於 TPU Sync 的 KV cache 管理和分離式 serving(disaggregated serving),這些能力由專案維護者與官方合作完成。
TechCrunch AI● 精選 10/19 20:09 AI 評分81
AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
Hacker News front page10/6 16:23 AI 評分73
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
Hugging Face blog● 精選 10/19 00:00 AI 評分68
TorchNeuron 將於 2026 年 10 月 20 日進入公開測試,為 AWS Trainium 提供原生 PyTorch 後端,可用 pip install torch-neuronx 安裝。
NVIDIA blog10/15 17:00 AI 評分43
NVIDIA 將於 10 月 16 日正式發布 RTX Spark,一款面向創作者、玩家和 AI agent 的 Windows PC,主打本地 AI 效能。Tom's Hardware、TrustedReviews 等媒體評測稱其遊戲與本地 AI 表現突出,Artificial Analysis 也提供了獨立測試資料。當天舊金山、柏林、臺北、北京、首爾、伊斯坦布林等地舉辦發布活動,多數需提前報名,北京場通過微信報名。
Google Developers blog● 精選 10/19 00:00 AI 評分78
LiteRT 發布 Tensor API,這是一個輕量 C++ 編寫層,開發者可以逐個運算元手工建置計算圖;同一份程式碼經 LiteRT 能跑在 CPU、GPU 與 NPU 上,不必為新硬體重寫。官方用 SAM 2 演示:模型全部用 C++ 編寫,在瀏覽器 WebGPU 上配合 Gemma 4 E2B 做即時多目標分割;coding agent 把它在 512×512 下的幀率從不足 10 提升到 30 以上。
Hacker News front page10/14 05:53 AI 評分67
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
機器之心10/15 06:21 AI 評分28
超聚變在 2026 OCP 全球峰會(10 月 12 日,美國聖何塞)展出 TokenBox 本地 AI 超級工作站,單機可支援最高 1.6 萬億引數模型,包含 DeepSeek V4 Pro,資料完全本地留存,企業無需專用機房即可本地獲得大模型能力。同場還展出智算、超節點元件與 800V HVDC 電源系統,並發表《Next-Generation Power & Cooling Solutions》主題演講,聚焦供電、散熱與互連。
Hacker News front page● 精選 10/8 00:46 AI 評分80
LLM 從零將 TypeScript 編譯器移植為 Rust 版 tsc-rs 併發布,Claude Opus 5.5 用兩週、約 24,047 美元 API 費用完成;此前用 OpenAI 的 GPT-5.6 Sol 與 GPT 6 Astra 花掉逾 40 萬美元仍未突破約 84% 相容度。
TechCrunch AI10/11 14:00 AI 評分45
企業語音 AI 平台 PolyAI 的 CTO Shawn Wen 在 HumanX 大會上表示,全雙工模型雖已實現,語音 AI 仍未迎來自己的「ChatGPT 時刻」,下一步的關鍵是讓推理足夠快、對話足夠自然。會議記錄工具 Otter 的 CMO Alex Gay 指出,說話人識別、意圖捕捉並與組織知識結合才是自動化的關鍵,Otter 還在研發可代表參會者的數字孿生。兩人都提到 ASR 模型常漏掉關鍵詞,轉寫不準會讓後續動作全部出錯、使用者失去信任;
機器之心10/6 12:12 AI 評分48
Artificial Analysis 的 Video Arena 文生影片排行榜上,影視公司 Utopai 的定製模型 Utopai X 以 1150 的 Elo 評分位列全球第二、全美第一,這是該榜採用雙盲投票以來首次有影視公司定製模型進入前列。Utopai X 基於 MiniMax H3 架構做深度定製後訓練,在評測的 10 項細分能力中 7 項超越基座模型,音訊同步與物理規律排名第一,光照與材質、鏡頭控制排名第二。
The Verge AI10/15 14:30 AI 評分51
微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會,這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構,而非 AMD、Intel 傳統的 x64,並搭配高效能 GPU,定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作,讓 Windows 適配這批新機器。
Google Developers blog● 精選 10/20 16:50 AI 評分69
Google Research 補全了 32 位開源 Coral NPU 的 RISC-V 架構,新增 Matrix Execution Unit 後邊緣推理最高 1 TOPS,平均功耗目標 10 mW。同步釋出 v1.0 開源 IREE/MLIR 編譯器,JAX、PyTorch、TensorFlow 模型可直接編譯到 Coral NPU,不必手寫彙編,從模型到晶片共用一條開源工具鏈。
NVIDIA blog● 精選 10/7 18:45 AI 評分88
NVIDIA 與微軟在舊金山活動上發布 RTX Spark,把完整 NVIDIA AI 棧裝進 Windows 筆記本與緊湊桌上型電腦,筆記本即日預售、10 月 16 日發售,桌上型電腦 11 月上市。
The Verge AI10/11 18:33 AI 評分42
川普推動把「人工智慧」改名為「超級智慧」,矽谷部分有影響力的人物正在跟進。馬斯克在川普表態數小時後即表示支援,並承諾把 SpaceXAI 更名為 SpaceXSI,是回應最快的一位。不過大眾仍普遍沿用 AI 這一說法。川普稱白宮認為「超級智慧」是更被接受、更準確的新術語。
Hacker News front page10/4 19:42 AI 評分72
斯坦福教授 John Ousterhout 在 AI Engineer 演講中提出 Homa,一種面向資料中心的全新傳輸協議,認為 TCP 和 RDMA 正成為 AI 叢集的瓶頸。他指出 AI 負載已從大流量梯度傳輸轉向 KV cache 查詢、屏障同步等小訊息協調,這類訊息對延遲敏感,一旦與大數據流混排就會陷入 incast 佇列,拖高尾延遲並讓 GPU 空轉。Homa 基於訊息而非位元組流,採用接收端驅動的擁塞控制,並用 SRPT 優先排程短訊息。
NVIDIA blog10/6 13:00 AI 評分48
輝達《State of AI in Telecommunications》報告顯示,89% 受訪者認為開源模型與軟體對公司 AI 戰略重要。運營商看重開源模型的可信任、可控與可定製,用於自主網路、客服等關鍵負載,並把閉源模型留給價值最高的場景;輝達同時發布 300 億引數的 Nemotron 3 Large Telco Model(由 AdaptKey 在開源電信資料集上微調),並提供基於 NeMo 的端到端微調流程。
Hacker News front page10/6 07:49 AI 評分72
德國軍事情報機構 MAD 首次啟用自研 AI 系統,篩查聯邦國防軍申請人中的右翼極端分子。該系統名為 uVTP(輔助憲法忠誠審查),由 MAD 與一家德國 IT 公司合作開發,自今年 7 月起審查所有申請人的網路活動,判斷其是否在網上傳播極端內容、關注右翼帳號或轉發此類材料。據《明鏡》報導,已有數萬名申請人被 AI 審查,低三位數的候選人因缺乏憲法忠誠被篩除;MAD 此舉是為應對未來幾年申請人數的快速增長做準備。
NVIDIA blog● 精選 10/13 12:00 AI 評分91
NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。
機器之心● 精選 10/14 02:38 AI 評分84
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Hugging Face blog● 精選 10/20 00:00 AI 評分83
PyTorch 2.15 在 MPS 後端加入 FP8 張量支援,並讓 MoE 模型解碼速度比 2.14 快 5–6.5 倍。在 M3 Ultra 上配合 torch.compile,Qwen3.6-35B-A3B 從 9.4 提升到 61.3 tokens/s,LFM2.5-8B-A1B 從 23.6 提升到 123.6 tokens/s,詞表 softmax 約快 8 倍。
Ars Technica AI10/14 12:55 AI 評分69
Anthropic 警告稱,最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力,進而催生無需人類互動即可傳播的計算機蠕蟲,感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示,真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰,因此結論有所保留,但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出,這類複製器沒有可集中關停的節點,難以清除,倍增時間以天計,但與普通惡意軟體不同,它能自行識別陌生裝置。
Simon Willison10/9 00:34 AI 評分46
ttok 1.0 發布,預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器,但 William Liu 的實驗顯示,5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致,均為 44,794,GPT-6 在這批語料上沒有增加輸入 token。
NVIDIA blog● 精選 10/1 23:44 AI 評分85
GPT-6 Astra Ultrafast 已在 OpenAI API 上線,並向符合條件的 ChatGPT Work 與 Codex 使用者開放,執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍,可縮短 coding agent 的編輯—測試—除錯迴圈,並減少工具呼叫之間的等待。開發者可通過 API 使用,訪問方式、價格與實現細節見 Ultrafast 指南。
TechCrunch AI10/4 20:08 AI 評分50
美國總統川普本週召集扎克伯格、貝索斯、馬斯克、Dario Amodei 等 AI 高管,簽署《前沿責任聯合承諾》,並以行政令方式將官方用語從「人工智慧」改為「超級智慧」。該承諾完全自願、不具法律約束力,川普稱其「道德上有約束力」,協議文字還把 United States 拼錯。播客嘉賓認為這更像一次 AI 的重新包裝,而非實質監管。
量子位10/15 06:35 AI 評分60
前華為小藝多模態大模型研發負責人唐都鈺創辦觀行數智,主攻讓機器自主判斷何時介入的「主動式物理 AI」。團隊採用雙模型協同架構 ProAgent:輕量模型 StreamingJev 持續讀取環境事件流、判斷是否需要介入,Response Model 再決定回應方式與呼叫裝置,並自建評測體系 ProactiveXBench。