AISpot

搜尋

找到 50 筆

機器之心● 精選AI 評分66

浙大等發布 WorldMemBench,評測影片世界模型記憶

浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench,用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別,分靜態記憶、動態記憶及影片品質、相機跟隨四個維度,測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化:HY-WorldPlay 七項靜態指標全部領先,LingBot-World 動態記憶總分最高;

機器之心AI 評分42

OpenAI 將 RSI 列為戰略目標,MemoraX 展示記憶驅動自進化

OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。

r/LocalLLaMA top of the dayAI 評分68

Percepta 發布 Spotlight 架構,記憶可無限增長

Percepta 公布新架構 Spotlight,用可讀寫記憶取代注意力機制,宣稱是首個實現記憶無限增長而不增加訪問成本的架構。每個 token 只讀寫少量記憶單元,稀疏度可任意調節,不像 MoE 那樣固定啟用比例。該架構把負責計算的智慧模組與存放知識、流程和狀態的記憶分離,模型權重不隨記憶增長而改變,可自行決定載入與覆寫,從而無需重訓練即可獲得新能力。

Hacker News front pageAI 評分69

自注意力可存超百萬條記憶:Transformer 記憶容量解讀

這篇博文把線性層、MLP 和自注意力解釋為不同形式的記憶儲存,並估算容量:在 64 維 key 下,線性層約存 64 條記憶,MLP 約 2700 條,自注意力可超過 100 萬條。它用干擾-訊號比衡量召回品質:儲存越多,鍵之間干擾越大,干擾等於訊號時達到容量;鍵正交時召回才精確。文章還指出梯度下降的一步可視為寫入一條 key 為輸入、value 為負梯度乘學習率的記憶,並配有互動式應用展示召回如何失敗。

Hacker News front pageAI 評分42

文章稱 agent 不需要記憶外掛,應改用文件式記憶

2026 年 10 月 3 日,一篇技術文章批評市面上的 agent 記憶外掛本質都是 RAG:把會話切成片段存入向量庫,每次提示注入最相似的 5 條,存在相似度不等於正確、片段脫離上下文、舊記憶被當作事實、無法審計等問題。作者主張改用文件式記憶,讓 agent 工作前查閱 Markdown 文件、工作後更新,並稱已把這一思路做成外掛 Operator Memory,不使用向量資料庫和嵌入。

機器之心● 精選AI 評分77

Honeycomb 用六張固定平面為影片世界模型做恆定大小記憶

Honeycomb 提出用六張固定尺寸的二維特徵平面(HexMemory)儲存場景,讓影片世界模型的記憶不隨影片長度增長。預設配置為 512 解析度、特徵秩 48,約 73.9 MB;降到 256 解析度後僅 19.8 MB,閉環 PSNR 只從 17.22 dB 微降到 17.10 dB。在 WorldScore 閉環重訪測試中它取得最佳結果:PSNR 17.22 dB、SSIM 0.504、光流誤差 3.00 畫素,明顯優於 Spatia 的 6.64 畫素。

量子位AI 評分60

DeepSeek Harness 民間外掛 ds-bot 發布,支援多 Bot 團隊與長期記憶

開發者 FeiZ 發布基於 DeepSeek Harness 的民間外掛 ds-bot,可把多個 Bot 組成團隊,每個 Bot 擁有獨立名稱、職責、指令、形象與可切換的模型,並具備持久化長期記憶。它支援設定 Main Bot 主管,訊息預設由主管回覆並排程其他 Bot,以降低群聊的 token 消耗;記憶以 Markdown 檔案儲存,每輪對話後自動審查增刪改,資料儲存在本機 DSH 目錄的 bot/ 與 sessions/ 中。

llama.cpp releasesAI 評分43

llama.cpp 修復 Vulkan 主機記憶體問題,AMD 停用記憶體共享

llama.cpp 發布 b11683 版本,Vulkan 後端修復了 GPU 可見主機記憶體的相關問題,並減少主機指標匯入失敗時的日誌刷屏。該版本把 MoltenVK 排除在共享記憶體匯入之外,同時因 amdgpu 效能問題,在 AMD 上停用了主機記憶體緩衝區共享。

機器之心● 精選AI 評分79

斯坦福博士部落格:從記憶推匯出 MLP 與自注意力

斯坦福大學計算機博士 Alex Wang 於 10 月 15 日發布部落格,把線性層、MLP 與自注意力統一解釋為不同形式的聯想記憶儲存器,並從記憶之間的干擾出發推匯出這些結構。在 64 維 Key 的隨機記憶實驗中,線性儲存器容量約 64 條,平方 ReLU 的 GLU 式 MLP 約 2700 條,採用固定縮放係數的自注意力理論容量約 120 萬條;1/√d_k 縮放以及 YaRN 等長上下文擴充套件策略也能從干擾角度得到解釋。

量子位● 精選AI 評分83

清華開源智慧體作業系統 PilotDeck 2.0,任務成本降 83%

清華大學 THUNLP 實驗室聯合面壁智慧、OpenBMB 等團隊開源智慧體作業系統 PilotDeck 2.0,用 WorkSpace 工作艙隔離各專案的檔案、記憶與任務,記憶白盒化可檢視、修改、刪除,並支援後臺常駐執行長任務。其 Smart Routing 按任務難度分發模型:實測主 Sonnet 4.6 加子 MiniMax-M2.7 得 70.6 分、成本 3.15 美元,單體 Sonnet 4.6 為 69.1 分、18.36 美元,約省六分之五。

r/LocalLLaMA top of the dayAI 評分70

176B MoE 模型在 16GB 視訊記憶體筆記本上跑通

開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。

Mistral AI news● 精選AI 評分78

Mistral 發布 Agents API,內建聯結器與持久記憶

Mistral AI 發布 Agents API,在 Chat Completion API 之外提供專門的 agent 框架。該 API 內建程式碼執行、網頁搜尋、影像生成(由 Black Forest Lab FLUX1.1 [pro] Ultra 驅動)、文件庫 RAG 與 MCP 工具等聯結器,並支援跨對話持久記憶、有狀態會話、流式輸出和多 agent 編排。開發者可通過指定 agent_id 或直接指定模型發起會話,並隨時續接或從任一節點新建分支。

Google DeepMind blog● 精選AI 評分75

Google 為 Private AI Compute 引入服務端持久記憶

Google 公布 Private AI Compute 新架構,將在雲端加入持久化記憶層,實現跨裝置連續 AI 助手體驗,同時保持端側級別的隱私標準。資料加密存放在雲端專用儲存中,解密金鑰僅保留在使用者裝置上,Google 自身也無法讀取;模型需要呼叫時通過端到端加密通道進入硬體隔離的安全飛地,臨時解密、寫入新上下文後立即重新加密。此前該平台及業界同類方案均為無狀態,任務結束即清除上下文。

r/LocalLLaMA top of the dayAI 評分11

r/LocalLLaMA 熱議 8GB 視訊記憶體跑本地模型的困境

Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除,評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5,也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp,未來或支援從磁碟流式載入專家。

llama.cpp releasesAI 評分41

llama.cpp b11583:無快取路徑避免記憶體重複分配

llama.cpp 發布 b11583,主要改動是在「no cache」路徑下避免圖記憶體的重複分配(#30439),即不使用 prompt 快取時可減少反覆申請與釋放視訊記憶體/記憶體。該版本照例提供 macOS、Linux、Windows、Android 等平台的預編譯包,其中 macOS Apple Silicon 的 KleidiAI 建置和 openEuler 建置本次標記為 DISABLED。

llama.cpp releasesAI 評分42

llama.cpp 發布 b11424,修復 Vulkan Flash Attention 共享記憶體越界寫

llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。

llama.cpp releasesAI 評分40

llama.cpp b11693 修復 SYCL 後端 mul_mat 記憶體錯誤

llama.cpp 發布建置 b11693,核心改動是修復 SYCL 後端在 mul_mat、split buffer 和 host pool 中的記憶體錯誤(PR #29889)。該版本同時更新了預編譯產物清單,覆蓋 macOS/iOS、Linux、Windows、Android,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 以及 SYCL FP32/FP16 等後端。

Hacker News front pageAI 評分60

Graphicle 發布:Rust 版 Graphify,為 coding agent 提供程式碼圖與記憶

Graphicle 是 Graphify 的 Rust 重寫版,把倉庫對映成程式碼圖,並記住專案文件、決策與過往 agent 會話,向 Claude Code、Codex、Cursor 等 MCP 客戶端返回帶檔案和行號的引用摘錄。它完全本地執行,無需 API key、帳號或遙測;brew 安裝後執行 graphicle setup 即可索引倉庫並接入檢測到的客戶端,graphicle disconnect 可撤銷全部改動。

NVIDIA blogAI 評分58

NVIDIA RTX Spark 筆記本開售:2399 美元起,最高 128GB 統一記憶體

搭載 Blackwell RTX GPU 與 Grace CPU 的 RTX Spark 筆記本已正式開售,起售價 2399 美元,最高提供 128GB 統一記憶體與 1 petaflop AI 算力。華碩、戴爾、惠普、聯想、微軟、微星首批出貨,主打在輕薄 Windows PC 上本地執行 AI、內容創作與遊戲,官方稱還有更多機型在路上。

The Verge AI● 精選AI 評分76

輝達 RTX Spark N1X 筆記本開賣,最高 128GB 統一記憶體

輝達 RTX Spark N1X 處理器正式上市,首批發售的 Windows 筆記本來自六家廠商,其中微軟 Surface Laptop Ultra 配備 128GB 統一記憶體。這是面向筆記本和小型桌上型電腦的 Arm 架構 SoC,整合 RTX Blackwell 顯示卡,核心數量眾多,主打以統一記憶體執行較大規模的本地 AI 模型,對標蘋果、英特爾、AMD 和高通。目前已有四款機型完成測試,包括華碩的 64GB 版本。

Hacker News front pageAI 評分68

Vx 發布:把 CPU、GPU、NPU 記憶體寫進型別系統的程式語言

Vx 是一門面向異構計算的系統程式語言,把 CPU、GPU、NPU 與加速器記憶體納入型別系統,主機執行緒解引用裝置指標會直接編譯報錯而非執行時崩潰。它要求跨記憶體空間的資料移動顯式呼叫 transfer(),並用機器檔案描述 H100、H200、B200、A100、MI300X、Apple M4 等真實硬體的記憶體層級與互連,編譯期據此接受或拒絕放置方案。

r/LocalLLaMA top of the dayAI 評分70

llama.cpp 新 PR 將 Qwen4 索引器視訊記憶體減半

llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體,把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB,262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變,僅分數因 fp32 舍入有差異;有使用者反饋解碼速度約降 10%。

Hacker News front pageAI 評分69

Intel 公布 D270 推理 GPU:480GB 記憶體、350W 風冷

Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。

Ars Technica AIAI 評分50

受 AI 推高記憶體成本影響,Nvidia Shield TV Pro 漲價 100 美元

Nvidia 宣布自 2026 年 10 月 2 日起,2019 年發布的 Shield TV Pro 立即漲價 100 美元,從 199.99 美元升至 299.99 美元。Nvidia 發言人向 Ars 確認,漲價源於包括記憶體在內的元器件成本在全行業大幅上漲。該裝置搭載 Tegra X1+ 處理器,支援 AI 畫質提升與幾乎全部媒體格式的硬體解碼,非 Pro 版本已停產。

llama.cpp releasesAI 評分42

llama.cpp 最佳化 lightning indexer 視訊記憶體與多後端支援

llama.cpp 合併多項改動,將 indexer 分數視訊記憶體佔用減半:原先同時存在兩個 [n_pool, n_idx_h, n_tokens] f32 張量,現改為逐頭計算並原地累加為單個 [n_pool, n_tokens] 分數。同時 CUDA 支援 4 頭、Metal 以函式常量讀取頭數、Vulkan 按 64 鍵×8 token 分塊並改用 fp16 點積,indexer 改為呼叫 ggml_lightning_indexer 且鍵只讀一次。

Hacker News front page● 精選AI 評分87

FLUX 3 Image Klein 開源發布,8GB 視訊記憶體可本地跑

Black Forest Labs 發布 5.6B 引數的開源權重模型 FLUX 3 Image Klein,支援文生圖、影像編輯和最多 10 張參考圖的多參考生成,並保留原生 4K 與邊界框控制。INT8 版本可在 8GB 視訊記憶體的 NVIDIA RTX 顯示卡上通過 ComfyUI 或 Diffusers 執行,蒸餾模型在 RTX 5090 上約 4 秒生成一張 1MP 影像,RTX 4070 上不到 9 秒。

Ars Technica AI● 精選AI 評分80

微軟 Surface Laptop Ultra 發布:首發 RTX Spark,2599 美元起

微軟在兩年來的首場線下活動中發布 Surface Laptop Ultra,這是首款搭載 Nvidia RTX Spark SoC 的裝置,起售價 2599 美元,10 月 16 日開始發貨,現已開啟預售。它可選 5120 核或 6144 核 Blackwell GPU,統一記憶體最高 128GB LPDDR5x,依靠統一記憶體分配而非傳統視訊記憶體上限,兼顧本地 AI 開發部署與 3A 遊戲執行。

Hacker News front pageAI 評分74

RTX Spark 筆記本裝上 Arch Linux,116GiB 記憶體池由 CPU 與 CUDA 共用

官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。

llama.cpp releasesAI 評分45

llama.cpp b11723:Hexagon 快閃記憶體注意力支援長上下文與 SWA 模型

llama.cpp 發布 b11723 建置,Hexagon NPU 後端的 FLASH_ATTN_EXT 得到改進,可支援更長上下文與滑動視窗注意力(SWA)模型(#30731)。同一批改動還包括掩碼塊跳過以減少 DMA 取數、微調 hmx→hvx 切換閾值以提升 gemma-4 表現,以及讓 hmx 門控計入 mdev.count。

r/LocalLLaMA top of the dayAI 評分64

r/LocalLLaMA 熱議 Strata:Qwen 3.8 Flash Next 專用推理方案

r/LocalLLaMA 使用者集中討論名為 Strata 的推理方案,稱其是專為 Qwen 3.8 Flash Next 打造的 llama.cpp 分支,面向 12GB 以上視訊記憶體的 GPU。使用者實測在 16GB 視訊記憶體、24GB 視訊記憶體及 64GB 記憶體等配置上可執行該開源模型,有人報告解碼約 82 tok/s、60 tok/s 或 1200pp,並稱速度約為 Qwen 3.8 27B 在 llama.cpp 上的兩倍。也有人質疑相關帖子是機器人營銷,討論其是否為炒作。

The Verge AIAI 評分43

The Verge 作者開啟本地 AI 日常使用連載,權衡隱私與記憶體成本

《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。

NVIDIA blog● 精選AI 評分91

RTX Spark 筆記本 10 月 16 日上市,Nemotron 3.5 Bolt 74B 同步發布

NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。

Hacker News front pageAI 評分46

逆向工程後,AI Agent 跑在 48MB 記憶體的諾基亞 110 上

一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。

Hacker News front pageAI 評分64

ROME 攻擊在 GPU 記憶體篡改模型權重,Stealthium 用 CUDA 呼叫棧檢測

ROME 攻擊通過惡意 Python 模組直接在 GPU 記憶體中改寫模型權重,使同一檢查點對同一問題給出語義不同的答案,磁碟檔案卻沒有任何變化。傳統 EDR/ADR 只監控檔案、程序和網路,因而看不到這類僅由額外 CUDA 核心啟動完成的篡改。Stealthium 的執行時感測器把每次 CUDA 核心啟動關聯回發起它的 Python 程式碼,並結合權重變化與呼叫棧進行檢測;其實驗室復現顯示,攻擊表現為標準推理加一批額外 CUDA 啟動。

機器之心● 精選AI 評分73

明略科技與中科院開源首個自修改視覺骨幹 VisionHOPE

明略科技與中國科學院自動化研究所聯合提出 VisionHOPE,稱其為首個以自修改學習系統為核心的通用視覺骨幹網路,程式碼、底層運算元與預訓練權重已按 MIT 協議開源。模型在單次前向計算中一邊讀圖、一邊更新決定特徵關聯、學習步長與記憶保留的規則,由五類可更新記憶協同完成。VisionHOPE-S 以 52.9M 引數在 ImageNet-1K 取得 85.2% Top-1 準確率,引數量不到 VMamba-B 的六成、準確率高 1.3 個百分點;

llama.cpp releasesAI 評分33

b11422: cuda: use the vector lightning indexer kernel on MUSA (#29990)

llama.cpp 合併 PR #29990,在 MUSA 後端改用向量版 lightning indexer kernel。原因是 MUSA 架構 21 與 22 的靜態共享記憶體上限為 28 KB,而 tile kernel 需要 33 KB,所以 tile kernel 不用於 MUSA;CUDA 與 ROCm 仍執行合併後的原 kernel,沒有變化。

The Verge AIAI 評分67

微軟 Surface RTX Spark 開發盒開啟預售,售價 5999 美元

微軟搭載 Nvidia 晶片的 Surface RTX Spark Dev Box 已開啟預售,定價 5,999 美元,預計 11 月發貨。它採用 Nvidia Arm 架構的 RTX Spark 平台與 128GB 統一記憶體,100 瓦熱設計功耗,機身是兼作散熱器的 3D 列印陽極氧化鋁外殼,外觀類似 Xbox Series X 頂部散熱孔。價格高於 Nvidia 去年推出的 DGX Spark 迷你主機,原文將漲價歸因於記憶體等零部件短缺導致 PC 價格上行。

Hacker News front page● 精選AI 評分93

Meta 發布 Muse Wonder 系列兩款模型,主打個人與專業 agent 任務

Meta 發布 Muse Wonder 系列兩款模型 Muse Wonder 與 Muse Wonder Full,稱在個人與專業 agent 任務、記憶與編碼基準上達到當前最優;Muse Wonder 即日起通過 Meta Model API 和 Muse Code 提供,Muse Wonder Full 僅面向 Muse Code 訂閱者。

Latent Space● 精選AI 評分65

Kubernetes 建立者推出雲原生 agent harness Mecatl

由 Kubernetes 建立者 Craig McLuckie 和 Joe Beda 創辦的 Stacklok 推出雲原生 agent harness Mecatl,6 月起在 GitHub 開源。Mecatl 把 agent loop 與客戶端、模型提供商、狀態儲存和執行環境解耦,會話與記憶不再以 JSONL 檔案躺在本地磁碟,而是放進雲端可管理的系統,供企業集中治理。

r/LocalLLaMA top of the dayAI 評分12

網友討論對 Kimi K3.5 的期待

有使用者在 Reddit 發帖討論對 Kimi K3.5 的期待,稱 K3 已是令人喜愛的模型,好奇 K3.5 會有多強。帖主回顧稱 K2 已經不錯,K2.5 憑藉持續學習階段提升到全新水平,據其記憶使用了超過 20-25T token。該帖未提供 K3.5 的發布時間、引數或官方資訊。

llama.cpp releasesAI 評分46

llama.cpp 新增 LiquidAI d1-omni-600M 決策模型

llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;

claude.dev blog● 精選AI 評分74

Anthropic 發布 agent 自動化參考實現,附 Claude Code 配置命令

Anthropic 發布基於 Claude Managed Agents(beta)的 agent 自動化參考實現:按 cron 計劃讀取 Slack 頻道與 GitHub PR,依據上次執行留下的書籤只取新增內容,再把簡報發到指定 Slack 頻道。配套程式碼含 agent、部署、環境、記憶與 vault 等配置,用 ant apply 寫入 Claude API 工作區,憑據存於 vault、沙箱內只留佔位符;