AISpot

搜尋

依意思最接近的 30 筆

llama.cpp releasesAI 評分38

llama.cpp 為 OpenCL 後端新增 topk_mask 運算元

llama.cpp 建置 b12052 在 OpenCL 後端加入 topk_mask 運算元支援(#31441)。同批發布各平台預編譯包:macOS/iOS(Apple Silicon、Intel)、Linux 與 Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 版本,以及 Android arm64、Windows arm64 的 OpenCL Adreno 和驍龍 CPU、Adreno GPU、Hexagon…

llama.cpp releasesAI 評分42

llama.cpp 的 Metal 後端新增融合 top-k mask 運算元

llama.cpp 建置 b11927 為 Metal 後端補上融合 top-k mask 運算元(GGML_OP_TOP_K_MASK),移植自 CUDA 後端已有實現。新核心先以 grid-stride 方式把輸出填為 -inf,再由每行一個 threadgroup 將保留單元的 mask 值覆蓋上去;並用函式常量裁掉特定計算圖用不到的 score、blocks 與額外分支,同時清理了核心格式。

llama.cpp releasesAI 評分47

llama.cpp b11800 新增 QSA mask 融合運算元,並將 k-pool mask 推廣為通用實現

llama.cpp b11800 為 QSA 新增融合運算元,並將原本只服務 qwen4exp 與 glm5-next 池化選擇的 k-pool mask 推廣為通用 ggml_top_k_mask,DSA 模型與 DeepSeek V4 CSA 也改用該運算元。它保留 top-k 選中與額外保留的 mask 單元、其餘置為 -inf,可按 head 逐行選擇,後端不支援時回退原路徑。

llama.cpp releasesAI 評分42

llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer

llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer 支援,並對兩者做了最佳化,還重構了 tiled topk kernel。這批改動隨建置 b11874 發布,覆蓋 macOS、iOS、Linux、Android、Windows 的預編譯包,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 Adreno GPU、Hexagon NPU 版本。

Hacker News front pageAI 評分37

新工具追蹤 AI 領袖影片言論,Amodei 累計 54 條

有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。

The Verge AIAI 評分46

ICANN 新頂級域名:Meta 與 OpenAI 等 10 家申請 .agent

ICANN 是負責分配網路頂級域名的機構,本輪時隔多年再次開放申請,共收到 1615 份申請,來自 481 個申請方。AI 是最集中的題材:Meta 與 OpenAI 等 10 家公司申請 .agent,包含 OpenAI 在內的 7 家申請 .agi,6 家申請 .asi,OpenAI 三個字尾均有提交。頂級域名即網址末尾的字尾,如 .com、.org 與 .pizza;目前公布的只是申請名單,能否獲批尚無定論。

llama.cpp releasesAI 評分43

llama.cpp 為 Hexagon NPU 重寫 TOP_K 取樣

llama.cpp 建置 b12094 重寫了 Hexagon 後端的 TOP_K 取樣:先跳過最大值夠不到當前第 k 名的 tile,再用 top_k_scan() 以一次 HVX max-reduce 剔除 256 個 float 的塊,只把存活元素插入 k 項有序表,取代原先的整塊雙調排序。該路徑覆蓋 k 在 2 到 64、行寬超過 1024 的情形,單行與多行均生效;並列時保留首次出現的索引,NaN 按 -INF 處理。同一提交還去掉了 vtcm 上的標量讀取。

機器之心AI 評分23

機器之心啟動「AI 中國」2026 年度榜單評選,設六類獎項

機器之心正式啟動「AI 中國」2026 年度榜單評選,申報通道現已開放。評選設六類獎項:最強 AI 技術實力機構 TOP 10、人工智慧領軍企業 TOP 20、最佳 AI 模型 TOP 20、最佳大模型產品及應用 TOP 20、具身智慧領軍企業 TOP 10、ScienceAI 領軍機構 TOP 10,覆蓋基礎模型、具身智慧與 AI for Science 等方向,符合條件的企業與創新團隊可報名參與。

機器之心● 精選AI 評分83

KTransformers-FineTune 讓 CPU 直接算 MoE 專家,微調吞吐最高提升 21.2 倍

清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。

機器之心● 精選AI 評分70

喬治亞理工與 MIT 提出 MASCOT,兩階段訓練緩解 AI 群聊角色坍塌

喬治亞理工與 MIT 團隊提出多智慧體系統 MASCOT,用兩階段訓練緩解多個 AI 角色越聊越像的「角色坍塌」:先讓傾聽者、鼓勵者、分析者等角色分別對齊各自行為,再訓練 Director Agent 選擇下一位發言者與回應策略。在情感對話資料集 ED 上,MASCOT 的角色一致性得分 80.0,比最強基線高 14.1 分,群體互動總分 57.3、提升 5.4 分;40 人盲評中約七成偏好 MASCOT,會議資料集 QMSum 三個子集總體評分也均領先。

X @elonmuskAI 評分43

馬斯克稱 Grok Voice 3.0 已是全球領先對話式語音模型

馬斯克在 X 上宣布 Grok Voice 3.0 成為全球領先的對話式語音模型。這條表態確認 Grok 的語音模型已迭代到 3.0 版本,並給出了官方定位,但未公布模型引數、支援語言、可用平台、上線時間與訂閱範圍等細節。除版本號與這一說法外,官方目前沒有披露更多資訊,實際對話效果有待後續公布或實測。

Hacker News front pageAI 評分73

AI 設計的開源加速卡 openTPU 跑通十餘款模型

一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。

Hacker News front pageAI 評分46

k10s 發布:可點選的 Kubernetes 終端 UI,內建感知上下文的 AI

k10s 是 Go 與 Bubble Tea 寫的可點選 Kubernetes 終端 UI:滑鼠可點選行與面板,ctrl+p 統一搜尋資源型別與物件,啟動時不註冊任何 watch,informers 按需懶載入。它內建 AI,ctrl+a 用自然語言提問時會自動注入當前 context、名稱空間、資源型別與選中物件,回答針對該物件;同時相容 k9s 風格的 plugins.yaml 自訂動作。

llama.cpp releasesAI 評分43

llama.cpp 為 CUDA 加入 384 專家的 Top-K MoE 融合

llama.cpp 發布 b11953 建置版本,CUDA 後端新增針對 384 個專家的 Top-K MoE 融合運算元(#31288),由 Codex 輔助完成,可加速此類稀疏 MoE 模型在 NVIDIA GPU 上的推理。該版本同步放出 macOS、Linux、Windows、Android 等多平台預編譯包,覆蓋 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 及驍龍 Adreno/Hexagon 等後端。

X @elonmuskAI 評分10

馬斯克發文:把最難的任務交給 Grok @Bot

馬斯克在 X 上發文,號召使用者把最難的任務交給 Grok @Bot。這條帖子只給出了這一句呼籲,沒有說明 @Bot 是什麼形態的產品或功能、面向哪些使用者、何時可用,也沒有提及價格、額度或具體能力範圍。關注 Grok 的人可留意官方後續是否給出更明確的說明。

機器之心● 精選AI 評分78

小紅書開源 DoSA,1M 上下文首 token 延遲最多降 48%

小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA,在保持原始 Top-K 選擇結果完全等價的前提下加速索引器,約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界,提前排除約 97% 不可能入選的候選,只對剩餘候選做全部索引頭的精確打分。

Hacker News front pageAI 評分53

思科給工程師不限量 AI token,24 個月重寫 98% 遺留程式碼

思科給一名 27 歲工程師不限量的 AI token 額度,要求他在 24 個月內重寫公司 98% 的遺留程式碼。這名工程師是前創業公司創始人,由公司總裁親自挑選,並被明確告知可以放手去做。該訊息來自 Tom's Hardware 的報導,沒有說明具體會使用哪些模型或工具,也沒有披露預算、團隊規模與驗收標準。

機器之心AI 評分51

奧特曼提 AI 競賽三種終局,最壞可癱瘓對手 GPU

OpenAI CEO 奧特曼在內部員工會議上提出 AI 競賽的三種終局:建立全球監管機構、頂級實驗室合併為一,以及一家公司率先突破關鍵技術。最極端情形下,率先突破的公司甚至能讓競爭對手的 GPU 集體癱瘓,奧特曼稱這是「糟糕透頂」的結局。前兩條分別參考 IAEA 與 CERN 模式;他也承認 OpenAI 目前無法輕易放棄技術領先爭奪。

llama.cpp releasesAI 評分36

llama.cpp 重構稀疏注意力 K 池選擇,與 kq_mask 形狀解耦

llama.cpp 讓 qwen4exp (QSA) 與 glm5-next 的稀疏注意力選擇不再跟隨 kq_mask 的形狀,改為在 KV cache 單元上按 [n_kv, n_tokens] 建置,到 attention 前才拆成 K 檢視的流。這樣 dense mask 可以自行改變佈局(例如按序列的行列表),不必改動稀疏層。同時刪掉了 build_fused_top_k_mask 中未使用的引數。

量子位● 精選AI 評分82

面壁智慧 ForgeKernel 直播自寫運算元,反超 DeepSeek FlashMLA 9.8%

面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下,通過直播自進化 22.5 小時,在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒,比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本,只用了 1 張 B200 和 22 個 GPU 小時,人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一,並在直播結束後開源;