Google 發布 ML Drift:端側通用 GPU 推理框架
Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。
依意思最接近的 30 筆
Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。
Cerebras 聯合創始人兼 CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上稱,人人家裡都有一臺 AI 裝置的未來並不遙遠,個人 AI 助理會像手機一樣部分在本地執行、部分回到雲端。他預計這些助理會非常瞭解使用者、擁有獨立的安全邊界,還能接入信用卡代為購物。Feldman 自己已用一組 agent 整理日程、準備通話物件的背景資料,但他表示消費級創意留給其他創業者,Cerebras 只做平台。
Google 發布 Google AI Edge Foresight,一款可在 Mac 上完全離線執行的 AI 會議筆記應用,對標 Granola。它用端側 7.4 億引數的 EmbeddingGemma 2 記錄跨應用及線下會議,採用分屏佈局:一側手寫速記、一側生成 AI 筆記,可檢視轉錄原文,或與 Gemma 4 驅動的助手對話。使用者還能上傳 PDF、Google Docs、Office 文件、純文字、Markdown 與網頁書籤搭建知識庫,會議中即時回答相關問題。
Opera 發布名為 WebAI 的新網頁標準,讓使用者直接在瀏覽器內本地執行 AI 模型,不依賴雲端。該標準不繫結特定模型,官方以 Google 的開放權重模型 Gemma 為例,在 Mac 上還支援 Apple 的端側基礎模型。功能先在旗艦瀏覽器 Opera One 中以早期預覽形式提供,需使用者主動開啟,Opera GX 與 Opera Neon 隨後跟進。
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
Frontier Red Team 的實驗顯示,小型 AI 模型可能再過數月就能在智慧烤箱、雜牌 Android TV 盒子等商用 IoT 裝置上自我複製:這類複製體沒有集中的關停點、倍增時間為數天,還能自行摸清陌生硬體,測試中 9B 模型在 9 類硬體裡有 8 類成功跑起推理。研究把複製拆為尋找目標、獲得執行、建立推理、繼續傳播四步,30B 以下模型已能完成多數單步但端到端串聯仍會出錯,簡化評測中 GLM-5.2 及更強模型可端到端複製。
Google 推出實驗性筆記應用 Google AI Edge Foresight,可在 macOS 上完全離線轉錄會議和音訊檔案。該應用免費,轉錄與摘要均由端側模型 EmbeddingGemma 2 完成,無需聯網。使用時可在會中記下簡寫要點,應用會結合轉錄文字將其轉成成稿筆記,定位類似 Granola、Wispr Flow 等 AI 筆記工具。
AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
Amazon 裝置業務負責人 Panos Panay 在 TechCrunch Disrupt 上表示,未來個人計算將由環境計算裝置承擔任務,使用者不必再主動告訴裝置要做什麼,App 的重要性會下降。同期 Amazon 發布 Bee 系列可穿戴裝置:可戴在手腕或拆下作吊墜的手環,以及磁吸在手機背面的信用卡大小裝置,它們被動錄製音訊並整理待辦、提醒與要點。Bee 不儲存原始音訊,即時處理後即刪除,轉寫文字用裝置自行生成和保管的金鑰加密,包括 Amazon 員工在內的他人無法訪問。
NVIDIA 部落格介紹了三家 Inception 計劃中的乳腺癌 AI 初創公司,其中 iSono Health 已獲 FDA 許可的可穿戴自動化 3D 超聲 ATUSA 每側乳房約 2 分鐘完成標準化掃描,傳統手持超聲最多需 45 分鐘,公司稱其敏感度高出 28%。該系統基於 150 萬幀超聲影像訓練,已在加州、得州等地合作診所商用,並啟動 3200 名患者的多中心臨床研究。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。
Ollama 官方帳號引述 jmorgan 在 This Week in AI 播客(與 Jason 對談)中的說法,稱企業 AI 正在經歷它的“PC 時刻”。該推文未給出具體產品、資料或時間表,只是觀點性表態,沒有更多細節。
OpenAI 表示,歐洲企業正在迅速擴大 AI agent 的使用。在其歐盟企業及商業客戶中,超過一半的 AI 使用已涉及這類工具,小企業使用者數量在整個地區增長了 8 倍。其最新經濟研究報告探討歐洲向 agentic AI 的轉變,以及把更廣泛採用轉化為更深入使用的機會。
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Anthropic 警告稱,最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力,進而催生無需人類互動即可傳播的計算機蠕蟲,感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示,真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰,因此結論有所保留,但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出,這類複製器沒有可集中關停的節點,難以清除,倍增時間以天計,但與普通惡意軟體不同,它能自行識別陌生裝置。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
從瑞典 KTH 皇家理工學院分拆的 Flox Intelligence,用邊緣 AI 裝置在現場識別靠近鐵路、機場和公路的動物,再播放對應物種的聲音將其驅離,目前約 150 臺裝置已部署在北美、歐洲和澳大利亞。裝置一次性售賣,第一年後按年收取軟體與 AI 訂閱費,並已與列車製造商阿爾斯通等達成 OEM 合作,把軟體裝到車輛上。公司預計 2026 年底營收約 150 萬美元,此前累計融資約 500 萬美元,正啟動 1000 萬美元 A 輪,目標把裝置規模擴到數千臺。
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
The Verge 刊文指出,隨著 AI 硬體的出現,科技公司正在重新定義什麼才算「錄製」。過去帶麥克風或攝像頭的裝置基本只有開與關兩種狀態:麥克風採集聲音、攝像頭採集影像,資料先儲存在裝置上,有時再上傳雲端處理,這些被保留下來的時間切片就是錄製。文章認為這一定義正被打破,並援引 Bloomberg 記者 Mark Gurman 上週的報導,稱 Apple 正在開發一款智慧家居產品。
蘋果發布新款 iPad mini,搭載 2nm 工藝 A20 Pro,官方稱 AI 效能較上代最高提升 4.5 倍,可用於執行本地大模型。512GB 版本配備雙 16 核神經網路引擎、合計 32 核,統一記憶體頻寬提升逾 2 倍,GPU 每顆核心內建神經加速器。
巴塞羅那超級計算中心(BSC)的 AI 工廠加速計劃在試點後全面運營,為初創公司提供主權算力、技術支援與培訓,其部分服務現已可通過 NVIDIA Inception 門戶申請。該 AI 工廠是歐洲首批、西班牙首個 AI 工廠,自 2025 年 4 月啟動以來已向公私客戶交付 800 多項服務;搭載輝達加速計算的 MareNostrum 5 即將擴容。試點 demo day 上,Qatium、OneCareAI、Avatia 獲評 AI Champion,分別做水管網智慧、ECG 隱藏心房顫動識別和藥企多智慧體語音系統。
輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。
蘋果計劃今年 12 月隨 iOS 27.3 在中國大陸首次上線 Apple Intelligence,首批為 Genmoji、通知摘要、寫作工具和照片 Clean Up 等 2024 年就已推出的功能,新版 Siri AI 不在首發名單,古爾曼稱蘋果高管對其近期獲批並不樂觀。國行版由阿里提供語言與影像模型(通義千問、通義萬相),百度參與搜尋與 Siri 相關功能,需重新處理內容過濾與部署。
OpenAI CEO Sam Altman 在 2026 年 10 月 1 日發帖表示,使用者應當能夠在任何需要的地方使用自己的 AI 訂閱。該表態未說明具體產品、實施方式或時間表,也未提及是否涉及跨平台或第三方應用。
有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。
Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。
AT&T 正與 OpenAI 合作,讓內部法務團隊 LegalEdge 更容易獲取法律知識,並重新設計法律需求的受理(intake)流程、把法律判斷規模化。官方未披露所用模型、部署規模與時間表,僅說明這是對法務工作方式的重思。
蘋果把 AI 助手加入 Keynote、Pages、Numbers 三款生產力應用,該助手基於蘋果與 OpenAI 的模型,能理解文件上下文。在 Keynote 中,它可設計、新增動畫與潤色幻燈片;在 Pages 中,它可起草、重構和調整文字;在 Numbers 中,它可計算、視覺化並整理資料,還能建議圖表型別、建置自訂表格。三款應用在 macOS 27 及以上版本支援 Model Context Protocol,第三方 AI agent 可接入。
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。
NVIDIA 宣布歐洲多地城市正用其加速計算、Cosmos 與 Nemotron 開源模型搭建物理 AI 智慧體和數字孿生,用於城市運維與公共服務。法國 Côte-d'Or 省與 Akila、ThinkDeep 合建主權數字孿生運維智慧體,覆蓋 500 多棟公共建築,把文件檢索從數週縮短到數分鐘、運營總成本降低 10%,規模化目標 30%。義大利米蘭地區由 Galene.AI 與戴爾部署本地 AI 工廠,先在 Cinisello Balsamo 落地並計劃擴充套件至另外四個市鎮;