llama.cpp releases● 精選10/8 12:34AI 評分74
llama.cpp CUDA 重做 top-k 選擇：大行數改用 radix
llama.cpp 的 CUDA 後端重做 top-k 演算法選擇，大行數場景改用按行網格的 radix select 替代 CUB 逐行 DeviceTopKKernel，在 qwen4exp 34,816 tokens 上啟動次數從 1,671,253 次降到 2,329 次，耗時從 5,761.8 ms 降到 941.8 ms。
搜尋
依意思最接近的 20 筆
Hacker News front page10/8 14:29AI 評分46
k10s 發布：可點選的 Kubernetes 終端 UI，內建感知上下文的 AI
k10s 是 Go 與 Bubble Tea 寫的可點選 Kubernetes 終端 UI：滑鼠可點選行與面板，ctrl+p 統一搜尋資源型別與物件，啟動時不註冊任何 watch，informers 按需懶載入。它內建 AI，ctrl+a 用自然語言提問時會自動注入當前 context、名稱空間、資源型別與選中物件，回答針對該物件；同時相容 k9s 風格的 plugins.yaml 自訂動作。
llama.cpp releases10/8 10:40AI 評分42
llama.cpp Vulkan 後端修復 TOP_K 的 inf/NaN 與負值錯誤
llama.cpp 發布 b11505，修復 Vulkan 後端 TOP_K 運算元在 +inf/NaN 輸入和 k=1 負值時的錯誤。原 bucket search 從 [0, 0xFF800000) 起算，+inf 與 NaN 永不被計數，可致 NVIDIA 上掛起或裝置丟失、AMD 上索引錯誤，並漏掉真實 top 值。
X @MistralAI10/7 10:06AI 評分58
Mistral Large 4 在 AutomationBench 領先 Kimi K3、DeepSeek V4 Pro
Mistral AI 稱 Mistral Large 4 在 AutomationBench 上完成 657 個業務工作流，成績領先 Kimi K3、MiMo-V2.6-Pro 與 DeepSeek V4 Pro。該基準的任務跑在模擬辦公應用中，涵蓋 Gmail、Google Sheets、Slack 與 Salesforce 四個工具。帖文未披露具體分數、評測日期與配置細節。
Hacker News front page10/6 12:23AI 評分73
AI 設計的開源加速卡 openTPU 跑通十餘款模型
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。
TechCrunch AI10/5 12:43AI 評分67
HackerRank 向客戶開放 AI 面試官 Chakra，已面試超 50 萬場
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta，週一起正式向企業客戶開放，測試期間已完成逾 50 萬場面試，Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務，Chakra 會依據其操作追問思路，評估批判性思維、判斷力與「AI fluency」，即如何向 AI 描述問題、判斷其輸出並引匯出解法。
Hacker News front page10/6 12:29AI 評分62
Treg 上線：一個 token 呼叫數千個 agent 工具
Superdesign 團隊發布 Treg，定位為面向 agent 工具的 OpenRouter：只需一個 base URL 和一個 token，即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點，按次計費、最低一美分起，無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付，團隊自有 key 的呼叫不計費，新驗證團隊可獲 1 美元免費額度。
The Verge AI10/7 14:46AI 評分46
ICANN 新頂級域名：Meta 與 OpenAI 等 10 家申請 .agent
ICANN 是負責分配網路頂級域名的機構，本輪時隔多年再次開放申請，共收到 1615 份申請，來自 481 個申請方。AI 是最集中的題材：Meta 與 OpenAI 等 10 家公司申請 .agent，包含 OpenAI 在內的 7 家申請 .agi，6 家申請 .asi，OpenAI 三個字尾均有提交。頂級域名即網址末尾的字尾，如 .com、.org 與 .pizza；目前公布的只是申請名單，能否獲批尚無定論。
r/LocalLLaMA top of the day10/3 10:16AI 評分75
兩臺 128GB Strix Halo 迷你主機各跑一個 300B 級 MoE 模型
Kyojin 引擎基於 ExLlamaV3 為 AMD Strix Halo（gfx1151、ROCm）打造，讓 GLM-5.3-Flash 與 MiMo-V2.6-Flash 兩個 300B 級 MoE 模型分別裝進單臺 128GB 迷你主機。實測在 Ryzen AI Max+ 395 上，GLM 預填充 580 tok/s、解碼 26-30 tok/s，MiMo 解碼最高 44 tok/s（程式碼場景）。
X @OpenAIDevs10/6 16:47AI 評分37
@OpenAIDevs: Developers have been using the Decisions API to:
OpenAI 開發者帳號公布 Decisions API 的六類典型用法：把請求路由到合適的模型、工具或智慧體；把規模化輸入轉成標籤、排名和評分；分析影像、比較視覺內容或定位影片關鍵幀；依據截圖選擇按鈕、填寫表單或判斷操作；標記有風險的工具呼叫或需深入審查的問題；以及對大規模資料集分類以發現趨勢和模式。推文未給出定價、可用範圍或上線時間等資訊。
TechCrunch AI10/6 14:22AI 評分65
Hark 發布 AI 個人助理 Hark Pro，強調隱私
Hark 正式發布 AI 個人助理 Hark Pro，可免費使用，重度使用者另有訂閱檔。其底層是專門為操作電腦訓練的模型，能接入信箱、日曆、硬碟與信用卡等，替使用者完成數字任務；介面為全屏，中央是對話方塊，另有 prompt 資訊流與可定製 panels 小儀表盤。演示中它主動提醒待批費用、待回郵件與會議，並提議代訂機票，還曾替人完成加州 DMV 的車輛註冊續期，且會在小視窗展示瀏覽網頁的過程以建立信任。公司計劃 2027 年推出配套的 AI 原生硬體。
機器之心● 精選10/4 07:12AI 評分68
Jev 走紅，NeurIPS 2025 論文 ConfTuner 早已探索相似思路
TypeSafe AI 的 Jev 模型近期走紅，其介面可直接返回預設選項、分數或事件機率，供程式碼呼叫，但未開源、架構未公開。NeurIPS 2025 入選論文 ConfTuner 提出 Tokenized Brier Score，僅用對錯標籤即可訓練置信度機率分佈，在 LLaMA、Qwen、Ministral 上把平均 ECE 從 0.2768、0.3781、0.4393 降至 0.1082、0.2872、0.1884，4 張 A40 上約 4 分鐘完成微調。
X @OpenAIDevs● 精選10/6 16:47AI 評分78
@OpenAIDevs: Let your app choose the right model, tool, or action in near real-time with Decisions API, now avai…
OpenAI 開發者帳號宣布，Decisions API 現已進入公開測試，面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作，官方給出的對比資料是：經由 Responses API 呼叫時，其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
Hacker News front page10/7 04:00AI 評分45
Criteo 初級工程師：AI 時代真正的風險是永遠停在 Junior
在 Criteo 任職的初級工程師 Elise Baturone 認為，AI 不會讓軟體工程師消失，真正的風險是資深工程師消失、所有人永遠停在 Junior 階段。她把自己的 agent 調教成導師，用蘇格拉底式提問做理解檢查，並把「提問」和「review」當成需要自己練的技能：追問 agent 解釋設計選擇、引用來源、論證可疑方案，常能讓它自己發現錯誤。她承認這更費 token，但先弄懂再上線更省事；
量子位10/7 02:39AI 評分56
Meshy 入選 a16z 消費級 AI 應用月收入 Top 50，排第 31 名
a16z 第七版《百強 AI 消費者應用》報告首次新增月收入榜單，Meshy 位列第 31 名，是榜上唯一的 AI 3D 公司。該榜單依據資料分析公司 YipitData 追蹤的美國消費者銀行卡消費資料排名，同榜還有 OpenAI、Anthropic、Canva、Superhuman、Higgsfield。
TechCrunch AI10/2 13:56AI 評分28
白宮 AI 安全承諾簽署，僅 2% 消費者付費
白宮召集扎克伯格、貝索斯、馬斯克、Anthropic 的 Dario Amodei 等主要科技 CEO 簽署 AI 安全承諾，川普稱其具有道德約束力。川普同時簽署行政令，正式將 AI 重新命名為超級智慧。與此同時，Meta 和 OpenAI 正為 AI 產品換上更友好的形象，但消費者中僅 2% 願意為此付費。
r/LocalLLaMA top of the day10/3 14:58AI 評分75
Ninfer 4080 讓 16GB 顯示卡跑 100k 上下文
開發者 roofkid 發布 Ninfer 4080，在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ，實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮，程式碼已在 GitHub 開源並提供 Docker 映象。
Hugging Face blog● 精選10/2 11:19AI 評分70
Ai2 開源 AstaBrief 8B 科學報告生成模型
Ai2 開源了 AstaBrief 8B，一個把研究問題與檢索文獻片段轉成帶引用報告的模型，基於 Qwen3-8B 訓練，已作為 Asta 的 Fast 模式上線。官方稱 Fast 模式平均 51.1 秒生成一份報告，比 Claude 驅動的 Thinking 模式 178.5 秒快約 3.5 倍。模型權重、訓練資料與範例工作流一併開放，機構可在自有基礎設施上本地生成報告。
Hacker News front page10/7 13:48AI 評分75
Docker 發布 docker-agent，用 YAML 定義並執行 AI 智慧體
Docker 發布 docker-agent，一個 Docker CLI 外掛，可用宣告式 YAML 配置建置、執行和分享 AI 智慧體，無需寫程式碼。它支援多智慧體協作、內建工具與任意 MCP server，模型側相容 OpenAI、Anthropic、Gemini、AWS Bedrock、Mistral、xAI 與 Docker Model Runner，並自帶 think、todo、memory 工具和基於 BM25、嵌入與重排序的 RAG。
TechCrunch AI10/5 10:35AI 評分57
研究者發現一支中國 AI agent fleet，疑執行於騰訊、呼叫高德地圖
獨立研究者 10 月 5 日發布初步發現，追蹤到一批並行的 AI agent，疑似執行在騰訊的基礎設施上，目標指向阿里巴巴的高德地圖服務，查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞，稱應叫 agent fleet：多個 agent 執行同類任務，彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的，該服務常被 agent 用來載入無法直接訪問的網站並留下記錄；研究仍在進行中。