搜尋

依意思最接近的 18 筆

llama.cpp releases10/22 18:05AI 評分42

b11823

llama.cpp 發布 b11823 建置，主要改動是最佳化 GLM-5 的輸入處理，避免 sel_mask_2d 輸入，cont 路徑也不再新建 pool_flat 輸入。

地端推論開源 llama.cpp GLM-5 本地推理版本更新 CUDA

閱讀原文

llama.cpp releases10/27 10:32AI 評分47

b11926

llama.cpp 發布 b11926 建置，主要是給 GLM-5-Next 加上不帶 kq_mask 的 QSA 支援，同時改動 DSA 的 top-k mask，並已用 DeepSeek-V3.2 的第 0、3 層做過測試。

地端推論開源 llama.cpp GLM-5 DeepSeek-V3.2 QSA DSA

閱讀原文

llama.cpp releases10/4 14:43AI 評分30

llama.cpp 發布 b11392 建置，CI 預設權限調整

llama.cpp 發布 b11392 版本，主要變更是 CI 設定預設權限（#29945）。該版本提供覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 的預編譯產物，包括 Apple Silicon arm64、CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等後端；

地端推論開源 llama.cpp 版本更新本地推理跨平台建置

閱讀原文

llama.cpp releases10/4 17:49AI 評分35

llama.cpp 發布 b11396 版本，Windows LLVM 建置需 Ninja 多配置

llama.cpp 發布 b11396 版本，主要變更是 Windows 平台的 LLVM 建置需要 Ninja 多配置（#29959）。該版本提供覆蓋 macOS、Linux、Windows、Android 和 openEuler 的預編譯產物，包括 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端，其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 被標記為…

地端推論開源 llama.cpp 建置發布跨平台 CUDA Vulkan

閱讀原文

TechCrunch AI10/15 18:56AI 評分62

Bluesky 擴充套件 AI 平台 Attie，可生成網站、遊戲與社交體驗

Bluesky 在 TechCrunch Disrupt 2026 上宣布擴充套件其 AI 實驗平台 Attie，讓普通使用者無需程式設計就能建置網站、測驗、遊戲、投票等互動體驗。這些作品執行在支撐 Bluesky 的 AT Protocol 上，使用者可自帶 AI 模型或使用開放權重模型，Attie 還會根據其公開 Bluesky 資料推薦可做的專案，並借 Bluesky 的分發觸達受眾。Bluesky 目前有 4700 萬註冊使用者但互動量下滑；

產品與方案開發工具 Attie vibe coding AT Protocol 去中心化社交 AI 創作工具

2 個來源 · 2 則報導閱讀原文

Hacker News front page10/23 09:21AI 評分46

Jev 發布 33 天即退燒，折射 AI 行業炒作與創新匱乏

Jev 發布 33 天后熱度迅速消退，這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器，宣稱不會幻覺、更快更便宜，但輸出仍會出錯，且已有開放權重模型在部分任務上價效比更高，並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現，並由此質疑行業四年來的創新增量。

模型研究 Jev AI 炒作 System One 通用分類器邊緣推理

閱讀原文

llama.cpp releases● 精選10/11 13:34AI 評分62

llama.cpp 新增 Prism Bonsai 2 27B 執行時支援

llama.cpp 建置版本 b11556 新增對 Prism Bonsai 2 27B 的執行時支援，改動以 PR #29600 合入，共同署名者包括專案作者 Georgi Gerganov。該 PR 還包含把 Hadamard 張量移入方法、定義摺疊權重、修復 load_* Hadamard 載入，以及轉換器介面整理和程式碼清理，其中多處提交標註由 Claude Code 協助完成。

地端推論開源 llama.cpp Prism Bonsai 2 27B 本地推理執行時支援 Claude Code

閱讀原文

Hugging Face blog● 精選10/2 15:19AI 評分70

Ai2 開源 AstaBrief 8B 科學報告生成模型

Ai2 開源了 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，已作為 Asta 的 Fast 模式上線。官方稱 Fast 模式平均 51.1 秒生成一份報告，比 Claude 驅動的 Thinking 模式 178.5 秒快約 3.5 倍。模型權重、訓練資料與範例工作流一併開放，機構可在自有基礎設施上本地生成報告。

模型產品與方案 AstaBrief Asta 科學報告生成開源權重 Qwen3-8B

2 個來源 · 2 則報導閱讀原文

Anthropic Research● 精選10/16 00:00AI 評分80

Anthropic 調查：91% 員工預期 2030 年 AI 能做出諾獎級發現

Anthropic 與經濟學家聯合調查顯示，91% 的 Anthropic 員工認為 AI 到 2030 年能做出諾獎級發現，美國成年人中這一比例為 39%。員工預期 AI 屆時能完成自己 75% 的工作，美國工人平均為 28%；在使用 AI 的工作任務中，員工預期 2030 年有 65% 交由 AI 完成，美國成年人預期為 42%。

研究 AI 預期差距經濟影響勞動力市場調查 Anthropic

3 個來源 · 4 則報導閱讀原文

llama.cpp releases10/4 14:12AI 評分16

llama.cpp 發布 b11391 版本，CUDA 程式碼小幅調整

llama.cpp 發布 b11391 建置版本，唯一程式碼改動是將 CUDA 後端的 blocks_per_col 變數移到實際使用位置（PR #29939），由 Hugging Face 的 Adrien Gallouët 提交。

地端推論開源 llama.cpp CUDA 版本發布跨平台建置

閱讀原文

llama.cpp releases10/21 22:34AI 評分55

llama.cpp 新增 Flint 模型支援，多平台建置同步更新

llama.cpp 建置 b11803 合併了對新模型 Flint（FlintForCausalLM）的支援，該提交由 Codex 協助完成，合作者包括 Hugging Face 的 Sigbjørn Skjæret。同版本的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler，包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。

模型地端推論 Flint llama.cpp 本地推理模型支援 Codex

6 個來源 · 9 則報導閱讀原文

llama.cpp releases10/19 11:27AI 評分46

llama.cpp b11729 為 Qwen3 加入雙向注意力支援

llama.cpp 發布 b11729，為 Qwen3 加入雙向注意力（bidirectional attention）與 dense_2 輸出投影支援，模型轉換指令碼 conversion/base.py 會讀取 use_bidirectional_attention 欄位。

地端推論開源 Qwen3 llama.cpp GGUF 轉換雙向注意力版本更新

閱讀原文

llama.cpp releases10/26 11:40AI 評分28

llama.cpp 發布 b11898，修復 ARM 架構未使用變數告警

llama.cpp 發布建置 b11898，主要變更是修復 ARM 架構下未使用變數的編譯告警（#31180），這一提交屬於編譯層清理，不涉及推理邏輯。同版本中，macOS Apple Silicon 的 KleidiAI 加速版預編譯包被標記為 DISABLED，openEuler 建置也一併停用。CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO、Windows arm64 與 Android 等平台的預編譯包仍照常發布。

地端推論開源 llama.cpp ggml ARM 本地推理版本更新

閱讀原文

llama.cpp releases10/9 09:57AI 評分42

llama.cpp b11521 服務端預設埠改為 9931

llama.cpp 新版本 b11521 把內建 server 的預設埠改為 9931，依賴預設埠的啟動指令碼與容器埠對映需相應調整。該版本同時放出各平台預編譯包，覆蓋 macOS Apple Silicon、iOS XCFramework、Ubuntu（CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL）、Windows x64/arm64、Android，以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon…

地端推論開源 llama.cpp 版本發布本地推理 GPU 加速跨平台

閱讀原文

Hacker News front page10/2 21:25AI 評分71

Ai2 開源 AstaBrief 8B 科學報告生成模型

Ai2 於 2026 年 10 月 2 日開源 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，採用 SFT 加 DPO 而非強化學習。它已作為 Asta 的 Fast 模式上線，與 Claude 驅動的 Thinking 模式並列，整條流水線平均每份報告 51.1 秒，比 Thinking 模式的 178.5 秒快約 3.5 倍。

模型開源開源科學報告生成 Qwen3-8B 本地推理 AstaBrief

2 個來源 · 2 則報導閱讀原文

llama.cpp releases10/20 11:22AI 評分41

llama.cpp 修復 Metal 後端每 token 9 專家 MoE 核心缺失

llama.cpp 建置 b11755 修復了 Metal 後端缺少每 token 9 專家 MoE 核心變體的問題（#30610、#30699），涉及 Apple Silicon 上的 MoE 推理路徑。該版本照例發布全平台預編譯包，覆蓋 macOS/iOS、Linux（CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO）、Android、Windows 及 openEuler 昇騰等後端。

地端推論開源 llama.cpp Metal MoE 本地推理版本發布

閱讀原文

llama.cpp releases10/24 20:15AI 評分41

llama.cpp 發布 b11867，重構伺服器入口

llama.cpp 發布建置版本 b11867，核心變更是重構 server 入口（#31113）。該版本繼續提供 macOS Apple Silicon、Ubuntu CUDA 12/13、ROCm 10.0、Vulkan、SYCL、Windows arm64 CUDA 等預編譯包，其中 macOS Apple Silicon 的 KleidiAI 版本與 openEuler 建置處於 DISABLED 狀態。

地端推論開源 llama.cpp 本地推理 server 開源版本發布

閱讀原文

llama.cpp releases10/16 23:24AI 評分45

llama.cpp b11701 新增 Beam (Reflection) 模型支援

llama.cpp 建置 b11701 加入 Beam (Reflection) 模型支援（PR #30670），官方站點為 llama.app。該版本同步釋出 macOS（Apple Silicon/Intel）、iOS、Linux、Windows、Android 與 openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU…

模型地端推論 llama.cpp Beam (Reflection)本地推理跨平台建置 b11701

5 個來源 · 8 則報導閱讀原文