MIPS 加速 RAG 檢索,面向百萬級向量庫
最大內積搜尋(MIPS)是 RAG、搜尋與推薦系統的核心環節,這篇內容討論的是如何讓這類檢索更快、更省。給定一個查詢向量,MIPS 要在數百萬條候選鍵向量中找出最匹配的一條,RAG 再把該鍵對應的原文文件拼接到查詢前面作為上下文。當鍵的數量漲到百萬級、向量維度達到數千維時,逐條窮舉搜尋的計算開銷會變得難以承受。
依意思最接近的 23 筆
最大內積搜尋(MIPS)是 RAG、搜尋與推薦系統的核心環節,這篇內容討論的是如何讓這類檢索更快、更省。給定一個查詢向量,MIPS 要在數百萬條候選鍵向量中找出最匹配的一條,RAG 再把該鍵對應的原文文件拼接到查詢前面作為上下文。當鍵的數量漲到百萬級、向量維度達到數千維時,逐條窮舉搜尋的計算開銷會變得難以承受。
微軟發布第三代自研 AI 晶片 Maia 300,將其定位為微軟產品與服務的主要 AI 推理系統,計劃 2027 年開始投入生產部署。微軟雲業務執行副總裁 Scott Guthrie 表示,相比主流的 GPU 系統,Maia 300 每兆瓦可多輸出 40% 的 token,並更能應對最新的推理模型與 agentic 任務。該晶片的設計目標是提升雲端 AI 工作負載的成本與效率,減少對 Nvidia GPU 的依賴。
Mistral 宣布與輝達建立新合作,將 AI 引入工業工程,並加快模擬速度。合作還包含為物理 AI 發布開放基準與配套資料集,以及為 CAE、EDA 中的 agentic AI 提供評測。更多資訊見 Mistral 官方公告。
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
馬斯克在 X 上表示,SpaceX 與輝達聯合研發的 Star Mind 計算機「遠超幾乎所有人的預期」,將於明年(2027 年)進入量產。他同時稱讚黃仁勳是「老朋友」,並稱與輝達工程團隊合作「純粹是快樂」。推文未披露 Star Mind 的用途、規格、算力或客戶,也沒有給出量產的具體時間點與規模。
Meta 開源了讓使用者自製 Muse AI 硬體裝置的程式碼,Muse 是其新的 AI agent。官方建議的玩法包括把 Muse 裝到彩色 E Ink 屏上顯示提醒、裝到 HDMI 棒上投到大屏,或裝到小觸控式螢幕裝置上做成類似 DIY Muse Charm 的形態。使用者可用現成 ESP32 板或 Raspberry Pi 配合官方 SDK,連線顯示屏、按鈕、感測器、執行器等外設。
AI Engineer 播客最新一期由 swyx 對話 Moshi CEO Anekha Sokhal,主題是她為交易員打造的市場資訊推薦引擎。她把 Moshi 形容為 Bloomberg、Claude 與 Netflix 的結合:行情資料、操作介面,再按交易員的持倉給出定製推薦。她出身 Warwick 數學與統計,在摩根大通做能源衍生品交易,後獲富布賴特獎學金赴美創業。節目還談到可信信源、文件抽取、自建還是採購模型,以及 AI 工程師被要求「你就是整個團隊」的壓力;
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。
Contexte Tech 將自己的資料目錄以 MCP 伺服器形式開放,無需帳號或金鑰,並把 MCP 視為智慧去中心化搜尋的共同底座。MCP 由 Anthropic 在 2024 年 11 月推出,2025 年 12 月移交給 Linux 基金會下的 Agentic AI Foundation,按帶日期的版本迭代並有公開伺服器登錄檔。與傳統搜尋引擎把網頁抓進自家索引相反,MCP 讓發布方把資料留在本地、由助手在提問時按需查詢,答案附帶來源、許可、作者和更新時間;
a16z 第七版《百強 AI 消費者應用》報告首次新增月收入榜單,Meshy 位列第 31 名,是榜上唯一的 AI 3D 公司。該榜單依據資料分析公司 YipitData 追蹤的美國消費者銀行卡消費資料排名,同榜還有 OpenAI、Anthropic、Canva、Superhuman、Higgsfield。
10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。
Meta 的個人 AI 智慧體 Muse 在 9 月 8 日上線後約 22 天達到 500 萬美國下載,Sensor Tower 估算其增速快於 ChatGPT、Grok 和 Claude,並曾連續多日登頂美區 App Store 免費榜。
過去五個月,Google 等五個組織承認存在一類漏洞:攻擊者利用內部網路中的 MCP,讓一個 agent 向其他 agent 傳播惡意指令。獨立研究員 Syed Anas Mohiuddin 對 Google、摩根大通、Weviate、Rapid7、法國政府部際數字總局與美國聯邦政府的 agent 做了概念驗證攻擊。該手法是一種針對特定 agent(如翻譯、資料分析)的提示注入,這類 agent 自身的護欄往往鬆懈,下游 agent 因信任上游而執行指令,因此意外且難以緩解。
AI 3D 生成公司 Meshy 披露,其 ARR 從 100 萬美元增長至 1 億美元,用時不到兩年,比 HeyGen 的 29 個月更快。Meshy 7 在自建幾何對齊基準中造型比例、空間分佈、表面細節三項指標領先受測模型,7.1 將幾何生成解析度從 2048³ 提升至 4096³。三七互娛已將其接入生產流程,基礎模型階段雕刻工作量減少 30% 至 40%。
舊金山初創公司 Industrial Next 在 TechCrunch Disrupt 2026 上宣布與 BMW 集團技術辦公室合作,評估其 AI 靈巧操作技術用於製造。該公司由兩位前特斯拉工程師於 2021 年創立,做的是基於自研基礎模型的機器人工作站,把視覺、任務上下文與運動控制打通,用高保真模擬訓練,產線換型從數週縮短到數分鐘,無需傳統程式設計。其工作站已在某款熱門手機的生產中使用,負責柔性排線穿線、聯結器扣合等此前難以自動化的工序;
蘋果推出搭載 M6 晶片的新 iMac,10 月 28 日太平洋時間 10:10 開啟預購,11 月 6 日正式上市。這是首款配備雙 16 核神經引擎的 Mac,每個 GPU 核心內建神經加速器,統一記憶體最高 32GB,官方稱端側 AI 效能最高為 M4 版 iMac 的 5 倍、比 Intel 機型快 18 倍。
Elon Musk 旗下的 xAI 子公司提出收購密西西比州 Southaven 社群房屋,條件是業主不加入針對附近資料中心和電廠的噪音訴訟。據 Guardian 報導,一名房產經紀逐戶上門稱 xAI 計劃購買 418 戶,已有 18 戶業主打算出售;租戶則稱房東同意出售後,他們被要求 60 天內搬離。密西西比自由新聞的報導還提到,多戶家庭收到了一封與此相關的信件。
馬斯克在 X 發帖談租用 AI/SI 算力,正文只有一句「試著租 AI/SI 算力是什麼體驗」,未附資料、公司或產品資訊。帖子沒有給出價格、時間或具體方案,只表達了對租用算力這一過程的感受。這條資料本身資訊量很少,發布時間為 2026 年 10 月 18 日。
Meta 的 Muse 與 OpenAI 的 Dots 相繼發布,把常駐式自主 AI agent 推向普通消費者,Muse 免費而 Dots 收費。兩者都以卡通吉祥物形象包裝,能代訂餐廳、機票、買禮物、整理收件箱,OpenAI 還推出面向營銷、法律與會計的專家版 Dots。此前個人專案 OpenClaw 已帶動 Mac Mini 銷量上漲,而把信用卡、信箱等敏感資料交給 agent 的隱私與安全代價仍未有解。
Meta 公布了 Muse Glimmer 的技術報告,這是一個 30B 開放權重模型,面向消費級硬體上的 agentic 任務。它在 4-bit 精度下可在配備單張消費級 GPU 的 Mac 或 PC 上以實用速度執行,官方稱其在工具呼叫與多步規劃上領先同尺寸開放模型。報告還披露了模型架構、蒸餾配方與量化方案等細節。
Apigee hybrid 1.17.0 引入原生 Model Context Protocol(MCP)支援,MCP 資料平面可直接執行在使用者自己的 Kubernetes 叢集內,AI agent 的請求流量與工具執行全部留在自有基礎設施中,只有配置更新從控制平面拉取。開發者可把 OpenAPI 3.0.x 規範暴露為可被發現的 MCP 工具,複用既有安全策略與 API 產品,並藉助 W3C trace context 頭實現端到端請求追蹤。
具身智慧公司 Microagi 公開亮相,推出面向工業場景的機器人產品 Atlas 與資料產品 shift。Atlas 把自主機器人直接部署到工業企業現有硬體與產線上執行閉環作業,無需更換裝置;shift 在不使用遙操作、不中斷產線的情況下記錄真實物理作業過程,並轉化為可直接用於訓練的資料。該公司稱自身為資料研究與部署實驗室,團隊分佈在慕尼黑、蘇黎世、倫敦和伊斯坦布林。