搜尋 關鍵字 語意 依意思最接近的 14 筆
llama.cpp releases10/21 17:02 AI 評分47
llama.cpp b11800 為 QSA 新增融合運算元,並將原本只服務 qwen4exp 與 glm5-next 池化選擇的 k-pool mask 推廣為通用 ggml_top_k_mask,DSA 模型與 DeepSeek V4 CSA 也改用該運算元。它保留 top-k 選中與額外保留的 mask 單元、其餘置為 -inf,可按 head 逐行選擇,後端不支援時回退原路徑。
llama.cpp releases10/27 11:09 AI 評分42
llama.cpp 建置 b11927 為 Metal 後端補上融合 top-k mask 運算元(GGML_OP_TOP_K_MASK),移植自 CUDA 後端已有實現。新核心先以 grid-stride 方式把輸出填為 -inf,再由每行一個 threadgroup 將保留單元的 mask 值覆蓋上去;並用函式常量裁掉特定計算圖用不到的 score、blocks 與額外分支,同時清理了核心格式。
llama.cpp releases● 精選 10/8 16:34 AI 評分74
llama.cpp 的 CUDA 後端重做 top-k 演算法選擇,大行數場景改用按行網格的 radix select 替代 CUB 逐行 DeviceTopKKernel,在 qwen4exp 34,816 tokens 上啟動次數從 1,671,253 次降到 2,329 次,耗時從 5,761.8 ms 降到 941.8 ms。
llama.cpp releases10/8 14:40 AI 評分42
llama.cpp 發布 b11505,修復 Vulkan 後端 TOP_K 運算元在 +inf/NaN 輸入和 k=1 負值時的錯誤。原 bucket search 從 [0, 0xFF800000) 起算,+inf 與 NaN 永不被計數,可致 NVIDIA 上掛起或裝置丟失、AMD 上索引錯誤,並漏掉真實 top 值。
llama.cpp releases10/25 13:33 AI 評分42
llama.cpp 的 OpenCL 後端新增 topk 與 lightning indexer 支援,並對兩者做了最佳化,還重構了 tiled topk kernel。這批改動隨建置 b11874 發布,覆蓋 macOS、iOS、Linux、Android、Windows 的預編譯包,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 Adreno GPU、Hexagon NPU 版本。
量子位10/7 06:39 AI 評分56
a16z 第七版《百強 AI 消費者應用》報告首次新增月收入榜單,Meshy 位列第 31 名,是榜上唯一的 AI 3D 公司。該榜單依據資料分析公司 YipitData 追蹤的美國消費者銀行卡消費資料排名,同榜還有 OpenAI、Anthropic、Canva、Superhuman、Higgsfield。
Hacker News front page10/8 18:29 AI 評分46
k10s 是 Go 與 Bubble Tea 寫的可點選 Kubernetes 終端 UI:滑鼠可點選行與面板,ctrl+p 統一搜尋資源型別與物件,啟動時不註冊任何 watch,informers 按需懶載入。它內建 AI,ctrl+a 用自然語言提問時會自動注入當前 context、名稱空間、資源型別與選中物件,回答針對該物件;同時相容 k9s 風格的 plugins.yaml 自訂動作。
Hacker News front page10/14 01:09 AI 評分37
有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。
llama.cpp releases10/27 20:15 AI 評分36
llama.cpp 讓 qwen4exp (QSA) 與 glm5-next 的稀疏注意力選擇不再跟隨 kq_mask 的形狀,改為在 KV cache 單元上按 [n_kv, n_tokens] 建置,到 attention 前才拆成 K 檢視的流。這樣 dense mask 可以自行改變佈局(例如按序列的行列表),不必改動稀疏層。同時刪掉了 build_fused_top_k_mask 中未使用的引數。
機器之心● 精選 10/16 06:58 AI 評分83
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。
X @elonmusk10/15 11:34 AI 評分12
馬斯克在 X 發文稱,追求真相(truth-seeking)是 AI 與超級智慧(SI)安全最重要的方面。原文僅此一句,沒有展開具體機制、監管路徑或時間表,也未點名任何模型、公司或政策。
X @Kimi_Moonshot● 精選 10/23 17:15 AI 評分91
Kimi 發布 K3.1 Pro,號稱最強開放權重模型:MoE 架構 2.8T 總引數、104B 啟用引數,支援 1M token 上下文與多模態輸入。官方稱其在程式設計、agentic 與知識類基準上追平最強閉源模型,可完成 Unreal、Unity、Godot 整專案遊戲開發,擅長 Blender 與 CAD 引數化 3D 建模,金融任務幻覺率下降 65%。
The Verge AI10/7 18:46 AI 評分46
ICANN 是負責分配網路頂級域名的機構,本輪時隔多年再次開放申請,共收到 1615 份申請,來自 481 個申請方。AI 是最集中的題材:Meta 與 OpenAI 等 10 家公司申請 .agent,包含 OpenAI 在內的 7 家申請 .agi,6 家申請 .asi,OpenAI 三個字尾均有提交。頂級域名即網址末尾的字尾,如 .com、.org 與 .pizza;目前公布的只是申請名單,能否獲批尚無定論。
Hacker News front page● 精選 10/23 17:10 AI 評分92
Kimi K3.1 Pro 正式發布,是 K3.1 系列首個模型,也是目前規模最大的 3T 級開源權重模型,支援 100 萬 token 上下文。同步推出速度提升 2–3 倍的 Highspeed 版本,兩者已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上線,完整權重將於 11 月 4 日前公開。