找到 8 筆
llama.cpp 發布 b11461，主要改動是修復 AMD 整合顯示卡在 Vulkan 後端下檢查點（checkpoint）讀取過慢的問題，對應 PR #30049。該版本同時更新了 macOS/iOS、Linux、Android、Windows、openEuler 的預編譯包，覆蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL，以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 後端。
llama.cpp 建置 b11647 的 Vulkan 後端為 AMD 顯示卡最佳化了 f16/bf16 KV cache 的 strided 複製：先把 KV 一次性拷到 scratch，使跨記憶體通道的讀取分散，而不是集中在少數通道上。改動刪掉了專用的反量化 shader，改為複用已有的通用 copy pipeline——f16 分支只需要 strided copy，不需要 dequant；複製按源記憶體順序描述，讓跨步訪問落在順序寫入端。
llama.cpp 新建置 b11623 中，CUDA 後端的 conv2d 在 AMD 顯示卡上改用 SIMT 隱式 GEMM 實現，不再依賴 WMMA。提交說明提到，短歸約場景會跳過 SIMT conv2d，相關注釋也已更新。該版本照例放出各平台預編譯包，含 Ubuntu 與 Windows x64 的 ROCm 10.0、CUDA 12/13，以及 Vulkan、SYCL、OpenVINO、Snapdragon 等；
Kyojin 引擎基於 ExLlamaV3 為 AMD Strix Halo（gfx1151、ROCm）打造，讓 GLM-5.3-Flash 與 MiMo-V2.6-Flash 兩個 300B 級 MoE 模型分別裝進單臺 128GB 迷你主機。實測在 Ryzen AI Max+ 395 上，GLM 預填充 580 tok/s、解碼 26-30 tok/s，MiMo 解碼最高 44 tok/s（程式碼場景）。
llama.cpp 發布 b11505，修復 Vulkan 後端 TOP_K 運算元在 +inf/NaN 輸入和 k=1 負值時的錯誤。原 bucket search 從 [0, 0xFF800000) 起算，+inf 與 NaN 永不被計數，可致 NVIDIA 上掛起或裝置丟失、AMD 上索引錯誤，並漏掉真實 top 值。
無問芯穹完成 23 億元 C 輪融資，累計融資 43 億元，單輪與累計均創國產 AI Infra 賽道新紀錄。這家公司不做模型和應用，而是做模型與晶片之間的中間層，已適配輝達、AMD、華為昇騰等 16 種晶片，服務 37000P 算力，還完成過 700 億引數大模型的異構晶片混訓。其大模型服務平台日均 Token 使用量半年漲超 40 倍，95% 以上推理任務來自 Agent；另據彭博社報導，公司已以保密形式向港交所遞交 IPO 申請。
田淵棟在播客中稱，把 GPT-5 當合作者完成在 Meta 的最後一篇論文（grokking 研究）後，效率提升約 6 到 10 倍，由此判斷自己的工作五年內會被取代，於是聯合創辦 Recursive Superintelligence。該公司今年 5 月結束隱身，以 46.5 億美元估值融資超 6.5 億美元，GV 和 Greycroft 領投，輝達、AMD 參投。他同時強調模型自己想出的點子仍很平庸，研究閉環中最難自動化的是提出想法，並表示公司會開源研究成果。
10 月 12 日，2026 工業具身智慧產業創新高峰論壇舉行，靈巧智慧聯合松應科技發布物理 AI 工業具身作業系統與靈巧操作模組，並推出 21 自由度靈巧手 021B。該系統以松應科技 ORCA OS 為底座，稱其為國內首個支援人形、四足、無人機等多形態機器人協同訓練的物理 AI 作業系統，已適配輝達、AMD、Intel 及摩爾線程等國產 GPU。靈巧智慧同時聯合上海人工智慧研究院、上海電氣、京東零售發布全球首家工業具身智慧 6S 店，由合資公司靈機智聯運營。