AISpot

搜尋

依意思最接近的 14 筆

llama.cpp releasesAI 評分47

llama.cpp b11800 新增 QSA mask 融合運算元,並將 k-pool mask 推廣為通用實現

llama.cpp b11800 為 QSA 新增融合運算元,並將原本只服務 qwen4exp 與 glm5-next 池化選擇的 k-pool mask 推廣為通用 ggml_top_k_mask,DSA 模型與 DeepSeek V4 CSA 也改用該運算元。它保留 top-k 選中與額外保留的 mask 單元、其餘置為 -inf,可按 head 逐行選擇,後端不支援時回退原路徑。

llama.cpp releasesAI 評分42

llama.cpp 的 Metal 後端新增融合 top-k mask 運算元

llama.cpp 建置 b11927 為 Metal 後端補上融合 top-k mask 運算元(GGML_OP_TOP_K_MASK),移植自 CUDA 後端已有實現。新核心先以 grid-stride 方式把輸出填為 -inf,再由每行一個 threadgroup 將保留單元的 mask 值覆蓋上去;並用函式常量裁掉特定計算圖用不到的 score、blocks 與額外分支,同時清理了核心格式。

llama.cpp releasesAI 評分42

llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer

llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer 支援,並對兩者做了最佳化,還重構了 tiled topk kernel。這批改動隨建置 b11874 發布,覆蓋 macOS、iOS、Linux、Android、Windows 的預編譯包,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 Adreno GPU、Hexagon NPU 版本。

Hacker News front pageAI 評分46

k10s 發布:可點選的 Kubernetes 終端 UI,內建感知上下文的 AI

k10s 是 Go 與 Bubble Tea 寫的可點選 Kubernetes 終端 UI:滑鼠可點選行與面板,ctrl+p 統一搜尋資源型別與物件,啟動時不註冊任何 watch,informers 按需懶載入。它內建 AI,ctrl+a 用自然語言提問時會自動注入當前 context、名稱空間、資源型別與選中物件,回答針對該物件;同時相容 k9s 風格的 plugins.yaml 自訂動作。

Hacker News front pageAI 評分37

新工具追蹤 AI 領袖影片言論,Amodei 累計 54 條

有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。

llama.cpp releasesAI 評分36

llama.cpp 重構稀疏注意力 K 池選擇,與 kq_mask 形狀解耦

llama.cpp 讓 qwen4exp (QSA) 與 glm5-next 的稀疏注意力選擇不再跟隨 kq_mask 的形狀,改為在 KV cache 單元上按 [n_kv, n_tokens] 建置,到 attention 前才拆成 K 檢視的流。這樣 dense mask 可以自行改變佈局(例如按序列的行列表),不必改動稀疏層。同時刪掉了 build_fused_top_k_mask 中未使用的引數。

機器之心● 精選AI 評分83

KTransformers-FineTune 讓 CPU 直接算 MoE 專家,微調吞吐最高提升 21.2 倍

清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。

X @Kimi_Moonshot● 精選AI 評分91

Kimi K3.1 Pro 發布:2.8T 總引數、1M 上下文的開放權重模型

Kimi 發布 K3.1 Pro,號稱最強開放權重模型:MoE 架構 2.8T 總引數、104B 啟用引數,支援 1M token 上下文與多模態輸入。官方稱其在程式設計、agentic 與知識類基準上追平最強閉源模型,可完成 Unreal、Unity、Godot 整專案遊戲開發,擅長 Blender 與 CAD 引數化 3D 建模,金融任務幻覺率下降 65%。

The Verge AIAI 評分46

ICANN 新頂級域名:Meta 與 OpenAI 等 10 家申請 .agent

ICANN 是負責分配網路頂級域名的機構,本輪時隔多年再次開放申請,共收到 1615 份申請,來自 481 個申請方。AI 是最集中的題材:Meta 與 OpenAI 等 10 家公司申請 .agent,包含 OpenAI 在內的 7 家申請 .agi,6 家申請 .asi,OpenAI 三個字尾均有提交。頂級域名即網址末尾的字尾,如 .com、.org 與 .pizza;目前公布的只是申請名單,能否獲批尚無定論。

Hacker News front page● 精選AI 評分92

Kimi K3.1 Pro 發布:3T 級開源權重模型,支援百萬 token 上下文

Kimi K3.1 Pro 正式發布,是 K3.1 系列首個模型,也是目前規模最大的 3T 級開源權重模型,支援 100 萬 token 上下文。同步推出速度提升 2–3 倍的 Highspeed 版本,兩者已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上線,完整權重將於 11 月 4 日前公開。