搜尋 關鍵字 語意 依意思最接近的 30 筆
llama.cpp releases10/28 10:15 AI 評分43
llama.cpp 發布 b11953 建置版本,CUDA 後端新增針對 384 個專家的 Top-K MoE 融合運算元(#31288),由 Codex 輔助完成,可加速此類稀疏 MoE 模型在 NVIDIA GPU 上的推理。該版本同步放出 macOS、Linux、Windows、Android 等多平台預編譯包,覆蓋 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 及驍龍 Adreno/Hexagon 等後端。
Hacker News front page10/14 01:09 AI 評分37
有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。
llama.cpp releases11/5 06:31 AI 評分34
llama.cpp 建置 b12128 修復了 TOPK_MOE 測試的 CI 抖動。原因是均勻隨機 logits 下兩個 expert 的分數可能只差一個 f32 ulp,在輸出範圍較窄的 sqrt_softplus 門控下尤其常見,後端與 CPU 相差幾個 ulp 就會選中另一個 expert 導致測試失敗。修法是在 host 上用雙精度重取樣,直到組選擇與最終 top-k 都有 1e-4 相對餘量;
機器之心● 精選 10/16 06:58 AI 評分83
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。
量子位10/7 06:39 AI 評分56
a16z 第七版《百強 AI 消費者應用》報告首次新增月收入榜單,Meshy 位列第 31 名,是榜上唯一的 AI 3D 公司。該榜單依據資料分析公司 YipitData 追蹤的美國消費者銀行卡消費資料排名,同榜還有 OpenAI、Anthropic、Canva、Superhuman、Higgsfield。
Latent Space10/22 14:03 AI 評分43
AI Engineer 播客最新一期由 swyx 對話 Moshi CEO Anekha Sokhal,主題是她為交易員打造的市場資訊推薦引擎。她把 Moshi 形容為 Bloomberg、Claude 與 Netflix 的結合:行情資料、操作介面,再按交易員的持倉給出定製推薦。她出身 Warwick 數學與統計,在摩根大通做能源衍生品交易,後獲富布賴特獎學金赴美創業。節目還談到可信信源、文件抽取、自建還是採購模型,以及 AI 工程師被要求「你就是整個團隊」的壓力;
機器之心10/23 05:30 AI 評分23
機器之心正式啟動「AI 中國」2026 年度榜單評選,申報通道現已開放。評選設六類獎項:最強 AI 技術實力機構 TOP 10、人工智慧領軍企業 TOP 20、最佳 AI 模型 TOP 20、最佳大模型產品及應用 TOP 20、具身智慧領軍企業 TOP 10、ScienceAI 領軍機構 TOP 10,覆蓋基礎模型、具身智慧與 AI for Science 等方向,符合條件的企業與創新團隊可報名參與。
Hacker News front page11/2 17:05 AI 評分58
Momentic 推出 QA 智慧體 Mo,可自主探索 Web、iOS 與 Android 應用來查詢 bug。在 4 個開源專案、1396 個人工標註 bug 的 60 分鐘限時測試中,Mo 找到 269 個 bug,召回率 19.3%、精確率 84%,單個 bug 成本 2.67 美元;同場 Codex 為 86 個、6.2% 召回,Claude Code 59 個,Devin 27 個。
機器之心10/24 14:11 AI 評分51
OpenAI CEO 奧特曼在內部員工會議上提出 AI 競賽的三種終局:建立全球監管機構、頂級實驗室合併為一,以及一家公司率先突破關鍵技術。最極端情形下,率先突破的公司甚至能讓競爭對手的 GPU 集體癱瘓,奧特曼稱這是「糟糕透頂」的結局。前兩條分別參考 IAEA 與 CERN 模式;他也承認 OpenAI 目前無法輕易放棄技術領先爭奪。
Latent Space● 精選 10/17 07:47 AI 評分91
Meta 發布開源權重模型 Muse Spark Open:816B 總引數、42B 啟用的 MoE,Artificial Analysis 智慧指數 39,為美國開源模型最高分。
TechCrunch AI10/9 15:43 AI 評分65
a16z 合夥人 Olivia Moore 發布消費者 AI 百強應用報告:ChatGPT 仍遙遙領先,Suno、ElevenLabs 等中小產品展現出持久力。報告發現社交、約會、電商、旅遊、金融、健康等類別在百強榜上完全沒有產品入選,美國也僅 2.2% 的家庭為 AI 付費。
r/LocalLLaMA top of the day10/3 14:16 AI 評分75
Kyojin 引擎基於 ExLlamaV3 為 AMD Strix Halo(gfx1151、ROCm)打造,讓 GLM-5.3-Flash 與 MiMo-V2.6-Flash 兩個 300B 級 MoE 模型分別裝進單臺 128GB 迷你主機。實測在 Ryzen AI Max+ 395 上,GLM 預填充 580 tok/s、解碼 26-30 tok/s,MiMo 解碼最高 44 tok/s(程式碼場景)。
X @Kimi_Moonshot● 精選 10/23 17:15 AI 評分91
Kimi 發布 K3.1 Pro,號稱最強開放權重模型:MoE 架構 2.8T 總引數、104B 啟用引數,支援 1M token 上下文與多模態輸入。官方稱其在程式設計、agentic 與知識類基準上追平最強閉源模型,可完成 Unreal、Unity、Godot 整專案遊戲開發,擅長 Blender 與 CAD 引數化 3D 建模,金融任務幻覺率下降 65%。
llama.cpp releases● 精選 10/3 11:54 AI 評分70
ggml-openvino 後端更新到 2026.4.1,重點最佳化 Qwen3.5 MoE 推理效能,並新增推理效能分析、預設使用遠端輸出張量、磁碟快取模型直載(cache_only)等能力。在 Arc B390 上以 q4_asym64_all 重量化執行 gemma-4-26B-A4B,pp512 從 66.16 t/s 提升到 1608.73 t/s,tg128 從 25.94 提升到 26.46 t/s,困惑度基本不變。
TechCrunch AI10/28 15:53 AI 評分43
Marissa Mayer 因用 AI 生成女兒的性格描述而遭批評,被指矽谷高管與大眾脫節。她在介紹新應用 Dazzle(一款從相簿中學習的 AI 助手)時說,該應用幫她為女兒的學校生日展示想出三個要點,把女兒概括為有同理心、有創造力、熱愛動物,被批像通用星座描述。Mayer 事後在 X 上解釋稱是在測試原型,但同一採訪中她仍提出可用 AI 規劃生日派對主題和親子活動。文中還引皮尤調查:50% 美國成年人認為 AI 會削弱人建立有意義關係的能力,僅 5% 認為會更容易。
機器之心● 精選 10/29 05:27 AI 評分70
喬治亞理工與 MIT 團隊提出多智慧體系統 MASCOT,用兩階段訓練緩解多個 AI 角色越聊越像的「角色坍塌」:先讓傾聽者、鼓勵者、分析者等角色分別對齊各自行為,再訓練 Director Agent 選擇下一位發言者與回應策略。在情感對話資料集 ED 上,MASCOT 的角色一致性得分 80.0,比最強基線高 14.1 分,群體互動總分 57.3、提升 5.4 分;40 人盲評中約七成偏好 MASCOT,會議資料集 QMSum 三個子集總體評分也均領先。
The Verge AI10/22 18:15 AI 評分40
Meta 在週三晚間的季度財報電話會上,把公司未來押注於上月向公眾發布的個人 AI 代理 Muse。扎克伯格稱其仍處早期,並描繪了一個由自主 AI 代理網路替人購物、工作、與其他人的代理溝通的未來,人們將主要通過機器人代理交流。報導由此追問,人類是否準備好接受這種生活方式,以及扎克伯格本人是否準備好。
Hugging Face blog● 精選 10/15 00:00 AI 評分95
Meta 發布開放權重模型 Muse Spark Open,採用混合專家架構,總引數約 816B、每 token 啟用約 42B,可輸入文字、影像、音訊和影片,輸出文字,上下文視窗最高 100 萬 token。模型針對 agentic coding 訓練,能閱讀程式碼庫、編寫與除錯程式碼並呼叫工具。官方提供 BF16 與 NVFP4 兩種權重,BF16 約 1.5TB,NVFP4 為 4 位精度、面向 NVIDIA Blackwell GPU。
X @ollama● 精選 10/21 17:22 AI 評分77
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint,面向端側 agentic coding 場景。官方給出短上下文下的生成速度:M4 Pro MacBook Pro 上超過 125 tps,64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
機器之心10/16 03:39 AI 評分48
南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。
Hacker News front page10/23 09:21 AI 評分46
Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。
The Verge AI10/7 18:46 AI 評分46
ICANN 是負責分配網路頂級域名的機構,本輪時隔多年再次開放申請,共收到 1615 份申請,來自 481 個申請方。AI 是最集中的題材:Meta 與 OpenAI 等 10 家公司申請 .agent,包含 OpenAI 在內的 7 家申請 .agi,6 家申請 .asi,OpenAI 三個字尾均有提交。頂級域名即網址末尾的字尾,如 .com、.org 與 .pizza;目前公布的只是申請名單,能否獲批尚無定論。
llama.cpp releases10/17 00:25 AI 評分45
llama.cpp 建置 b11702 為高通 Adreno X1 系列 GPU 新增 MxFP4 MoE 的 OpenCL bin kernel(gemm_moe_mxfp4_q8_1_dp4a_ila_ldck),並在 X1E 上啟用 dp4a clc,用於加速驍龍裝置上的 MoE 模型推理。
Hacker News front page11/1 13:47 AI 評分53
ycombinator 與 Olam Labs 的研究者把上百個 AI agent 放進 Minecraft 及其多種模式,讓它們協作或互相對抗,結果這群 agent 沒能建成「文明」,反而陷進官僚內耗。實驗基於 Mindcraft 與 Mineflayer 指令碼工具搭建,意在為近期多 agent 案例提供參照:一邊是千級 agent 群體解決數百個開放數學問題,一邊是被稱「極其危險」的 OpenAI-Hugging Face 事件。
OpenAI News10/29 09:00 AI 評分33
OpenAI 官方發文說明其如何檢測前沿模型失準:用分層監控識別模型失準與智慧體的未授權行為,使回應人員能在事件升級前介入。該機制同時關注模型行為偏離和 agent 越權操作,把分層發現與人工回應銜接起來,目標是在風險事件擴大前完成處置。
Hacker News front page● 精選 10/12 22:05 AI 評分76
新的 C 語言推理引擎 Janas-LLM 把 MoE 權重留在磁碟、按 token 從 NVMe SSD 流式讀取專家,在 32 GB 記憶體的筆記本上跑起了 48.4 GB 的 Qwen3-Next-80B。
llama.cpp releases11/4 03:16 AI 評分37
llama.cpp 發布 b12096 建置,為 Hexagon NPU 後端新增 TOP_K_MASK 運算元,並簡化該 kernel、不再重複主機配置。
The Verge AI10/11 18:33 AI 評分42
川普推動把「人工智慧」改名為「超級智慧」,矽谷部分有影響力的人物正在跟進。馬斯克在川普表態數小時後即表示支援,並承諾把 SpaceXAI 更名為 SpaceXSI,是回應最快的一位。不過大眾仍普遍沿用 AI 這一說法。川普稱白宮認為「超級智慧」是更被接受、更準確的新術語。
X @ollama10/22 21:47 AI 評分18
Ollama 官方帳號引述 jmorgan 在 This Week in AI 播客(與 Jason 對談)中的說法,稱企業 AI 正在經歷它的“PC 時刻”。該推文未給出具體產品、資料或時間表,只是觀點性表態,沒有更多細節。
r/LocalLLaMA top of the day10/3 20:06 AI 評分70
開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。