llama.cpp releasesAI 評分43
llama.cpp CUDA 批次張量讀取改用對映主機記憶體
llama.cpp 合入 PR #31391，CUDA 後端將批次張量讀取改為聚集（gather）到對映主機記憶體：小讀取使用 8 位元組複製，大讀取改用 pinned DMA，descriptor 的 pinned 緩衝區擴大到 128k。實現上增加條件派發、把主機記憶體註冊改為 RAII，並調整張量測試以控制 CI 耗時。該 PR 由 Codex 輔助完成。
搜尋
依意思最接近的 15 筆
Hacker News front pageAI 評分68
Vx 發布：把 CPU、GPU、NPU 記憶體寫進型別系統的程式語言
Vx 是一門面向異構計算的系統程式語言，把 CPU、GPU、NPU 與加速器記憶體納入型別系統，主機執行緒解引用裝置指標會直接編譯報錯而非執行時崩潰。它要求跨記憶體空間的資料移動顯式呼叫 transfer()，並用機器檔案描述 H100、H200、B200、A100、MI300X、Apple M4 等真實硬體的記憶體層級與互連，編譯期據此接受或拒絕放置方案。
機器之心AI 評分53
映界科技兩輪種子輪融資數千萬元，押注空間智慧資料層
映界科技已完成兩輪種子輪融資、總計數千萬元，方向是空間智慧的資料採集與結構化、評測基準和後訓練環境，香港城市大學副教授馬辰負責其資料方向預研。馬辰認為資料價值由它對具體任務的增益決定，治理不能停在去重清洗；模型還需跨視角、跨時間的物件身份關聯與不確定性記錄。團隊正在建置空間智慧 Benchmark，主張評測要區分輸入模態與能力維度，並把模型失敗模式反饋到資料採集與訓練，形成獎勵可核驗的後訓練環境。
llama.cpp releasesAI 評分42
llama.cpp 在全部 Apple 平台改用 vm_allocate 分配記憶體
llama.cpp 的 ggml 後端在全部 Apple 平台（macOS Apple Silicon、Intel 與 iOS）把記憶體分配從 posix_memalign 改為 vm_allocate，並讓 test-host-buffer-release 測試預設執行。該改動同時覆蓋 iOS，屬於底層記憶體分配路徑調整，不涉及模型或 API 變化。
Hacker News front pageAI 評分54
Altman 稱本地推理浪費 DRAM，OpenAI 自研晶片 Jalapeno
Sam Altman 在 Cheeky Pint 訪談中表示，個人把全球有限的 DRAM 留在自己電腦裡、只使用 5% 的時間，從全球分配角度看相當糟糕，雲端最大化利用率才是解法。他提到 OpenAI 獲准買下全球 40% 的 DRAM 產量，而美光已宣布退出消費級記憶體生產。OpenAI 還在自研代號 Jalapeno 的 AI 晶片，稱該晶片由 AI 為 AI 設計。
Hacker News front pageAI 評分74
RTX Spark 筆記本裝上 Arch Linux，116GiB 記憶體池由 CPU 與 CUDA 共用
官方只支援 Windows 的 ASUS ProArt P16（128GB 記憶體版）已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作，補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動，做出可啟動映象，並擴充套件 Archinstall 4.5 來安裝硬體支援；7-Zip 單執行緒成績與 Windows 基本持平，20 執行緒壓縮約領先 5%、解壓約領先 3%。
機器之心● 精選AI 評分70
奧特曼：PC 囤記憶體太浪費，本地推理不如集中雲端
奧特曼在 Cheeky Pint 採訪中稱，讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置，記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格，而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守，「看不見的手」已經失靈；OpenAI 的對策是自研晶片、自建資料中心，乃至用機器人運營晶圓廠的「自我複製的資料中心」。
Hacker News front pageAI 評分46
逆向工程後，AI Agent 跑在 48MB 記憶體的諾基亞 110 上
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上，並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間，最初嘗試刷入 Android 系統，因記憶體只有 48MB 而失敗，隨後花幾天時間逆向工程，最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊，目前 15 分、3 條評論，作者未說明所用的是哪個 AI 模型，也沒列出具體自動化了哪些操作。
llama.cpp releasesAI 評分56
llama.cpp 為 SpacemiT X60 補上 Q8_0 IME1 核心
llama.cpp 合併 PR #28479，為 SpacemiT X60 新增 Q8_0 的 IME1 矩陣核心與 repack 路徑。此前該平台 IME 加速只覆蓋 Q4_0/Q4_1/Q4_K，且建置時 GGML_CPU_REPACK=OFF，Q8_0 無加速路徑，prefill 比 Q4_0 慢約十倍。
機器之心● 精選AI 評分68
港科大等發布首篇自迴歸影片生成 Memory 綜述，110 頁
香港科技大學、香港城市大學、復旦、CMU、NYU、NTU 等機構聯合發布 110 頁綜述《The Past Frames the Future: Memory for Autoregressive Video Generation》，系統梳理自迴歸影片生成中的 Memory 機制。
Hacker News front pageAI 評分54
Altman 稱 DRAM 應優先供資料中心，本地推理很糟糕
OpenAI CEO Sam Altman 在 YouTube 頻道 Cheeky Pint 的喝酒訪談中稱本地推理“相當糟糕”，認為全球有限的 DRAM 應優先供給資料中心，而不是留在個人電腦裡。他給出的理由是，讓大量 DRAM 分散在家用電腦中、僅被使用約 5% 的時間，從全球資源分配角度看非常不合理。該訪談中並未宣布 OpenAI 的產品或政策變化，討論則集中在本地執行模型與記憶體供應分配。
llama.cpp releasesAI 評分43
llama.cpp 修復 Vulkan 主機記憶體問題，AMD 停用記憶體共享
llama.cpp 發布 b11683 版本，Vulkan 後端修復了 GPU 可見主機記憶體的相關問題，並減少主機指標匯入失敗時的日誌刷屏。該版本把 MoltenVK 排除在共享記憶體匯入之外，同時因 amdgpu 效能問題，在 AMD 上停用了主機記憶體緩衝區共享。
llama.cpp releasesAI 評分48
llama.cpp b11560 為 Hexagon NPU 新增 IM2COL_3D 支援
llama.cpp 建置 b11560 為 Hexagon NPU 後端新增 IM2COL_3D 支援，並把 hex-im2col 核心重寫為規範的 DMA 雙緩衝流水線，去掉除法運算與低效的 fp16 轉換，同時將 kernel_params 與 VTCM 佈局預計算移到 host 側、支援非連續檢視。該系列提交由 OpenCode 輔助完成，共同作者為高通的 Max Krasnyansky。
llama.cpp releasesAI 評分39
llama.cpp b11901 將 SYCL 重排臨時記憶體限制在 32 MiB
llama.cpp 發布 b11901 建置，SYCL 後端的重排（reorder）臨時記憶體被限制在 32 MiB（PR #31062）。該版本照例提供各平台預編譯包，包括 macOS Apple Silicon、Linux/Windows 的 CUDA 12.8 與 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16，以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU。
機器之心● 精選AI 評分76
記憶張量開源首個記憶原生基座模型 MemT 1.0
記憶張量發布並開源 MemT 1.0，稱其為業內首個記憶原生基座模型，歷史資訊被編碼為可更新的內部記憶狀態，隨每輪對話逐 token 更新並可跨會話儲存恢復。兩個版本為 MemT-1.0-Flash（288B 引數、17B 啟用、336M 動態記憶）與 Nano（36B 引數、3B 啟用、10M 動態記憶）。