AISpot

搜尋

依意思最接近的 30 筆

r/LocalLLaMA top of the dayAI 評分65

LiquidAI 發布 LFM2.5-Encoder 250M/350M 編碼器

LiquidAI 發布 LFM2.5-Encoder 系列,含 250M 與 350M 兩個版本,基於 LFM2 架構的雙向掩碼語言模型,支援 15 種語言、8k 上下文,可微呼叫於分類、檢索、重排與語義相似度等任務。官方稱其吞吐量持平或超過 ModernBERT,CPU 長上下文有優勢,並可在瀏覽器 WebGPU 上執行;GGUF 權重已上傳 Hugging Face,llama.cpp 已提交對應支援 PR。

llama.cpp releasesAI 評分42

llama.cpp 新增 pplx-decider 模型支援

llama.cpp 發布 b11571 建置,新增對 pplx-decider(vLLM decision 2)模型的支援,並加入更嚴格的模型校驗、明確命名規則等改動。該版本同步提供 macOS、Linux、Windows、Android 各平台預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。

Hacker News front pageAI 評分41

回應 Rich Hickey:LLM 仍是工具,用好它需要技能

作者回應 Rich Hickey 於 2026 年 10 月 11 日發表的《"AI" is Not a Tool》,認為 LLM 屬於工具而非自動化,能否用好取決於使用者的技能。編譯器與電子表格同樣自動完成大量工作,但仍由人指定輸入、檢查結果並決定下一步,因此自動生成文字不該被排除在工具之外。作者也承認用摘要代替讀論文會損失學習機會,但可以讀原文再用 LLM 質疑自己的理解;同時批評「失控」「越獄」「密謀」等擬人化措辭,把軟體故障說成人的動機。

llama.cpp releasesAI 評分46

llama.cpp 新增 LiquidAI d1-omni-600M 決策模型

llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;

llama.cpp releasesAI 評分43

llama.cpp b11688 合併 AVX2 分塊累加器並更新全平台建置

llama.cpp 合併 PR #30296,把 CPU 上的 AVX2 分塊累加器(tiled accumulators)歸併處理,用於最佳化 x86 CPU 推理,改動由 Codex 協助完成。同版本 b11688 放出多平台預編譯建置,覆蓋 macOS Apple Silicon 與 Intel、iOS、Linux、Windows、Android、openEuler,含 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等後端。

Hacker News front pageAI 評分49

Rich Hickey:LLM 不是工具,而是自動化

Rich Hickey 發表短文《'AI' Is Not a Tool》,主張 LLM 不是可被揮舞的工具,而是自動化:它自行行動,使用者只發出請求,沒有持續控制,也沒有感官反饋。他以用 LLM 讀論文為例,指出是它讀了而不是你讀了,讀者因此錯過學習寫作、組織論證、發現細節乃至學習思考的機會。他強調工具不會失控或叛變,而自動化有著與工具不同、忽視不得的固有屬性。

Hacker News front pageAI 評分28

HN 討論:LLM 何時接管軟體架構,程式設計技能還剩幾年

HN 上一條提問帖討論 LLM 何時能接管軟體架構設計、不再需要人類留在設計環節。發帖者認為程式碼、數學這類有明確對錯的任務已被充分 RL,下一步就是讓 Anthropic、OpenAI 等收集好架構與壞架構的資料集做 RL;他提到 2024 年 LLM 還只是高階自動補全,如今業界已在談用 agent 搭「軟體工廠」,並判斷幾年內實際程式設計技能的需求會消失九成,產品負責人這類軟技能崗位更受青睞。帖子目前 9 分、3 條評論,屬觀點討論,沒有官方資訊。

Hugging Face blog● 精選AI 評分81

LiquidAI 發布 LFM2.5-24B-A2B:2B 啟用引數的端側 Agent 推理模型

LiquidAI 發布 LFM2.5-24B-A2B:總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型,專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答,能呼叫工具,上下文由上一代 32K 擴到 131K,詞表從 65K 翻倍至 128K。

Hacker News front pageAI 評分66

演講整理成博文:為 LLM 自建遊戲開發 harness

有近 15 年遊戲程式設計經驗的開發者把在 Calgary 的演講「Your Game Is A Harness」整理成博文,講如何為 LLM 自建遊戲開發 harness。作者認為 LLM 預設讀不懂遊戲:遊戲裡大量資產不是程式碼,對模型不透明,解法是把內容儘量轉成程式碼;他稱在 Web 棧專案上已幾乎不覺得 LLM 有做不到的事,遊戲則差得遠。文中還拆解了 LLM 請求由 system、assistant、user 三部分構成。

Hacker News front pageAI 評分68

Llmspeed 上線:按硬體和模型查本地大模型推理速度

Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站,用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置,以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型,給出短提示、單裝置下的速度估計。

X @lmstudio● 精選AI 評分73

LM Studio 首日上線 Flint:40B MoE 本地編碼模型

Recursive SI 的 Flint 模型在發布首日就進入 LM Studio,可直接在本地執行。它是一個 40B 的 MoE 模型,每次僅啟用 2.5B 引數,上下文視窗為 262K token,採用 Apache 2.0 許可,專門針對本地 agentic coding 場景訓練。本地執行大約需要 24GB 記憶體,官方稱其基準測試表現相當出色。

llama.cpp releasesAI 評分40

llama.cpp b11447 發布:新增 pplx-decider 模型支援

llama.cpp 發布 b11447 建置版本,本次列出的功能變更是新增對 pplx-decider 模型的支援(PR #30044)。該版本一次性放出 macOS/iOS、Linux、Android、Windows、openEuler 五個平台的預編譯產物,計算後端覆蓋 CPU、CUDA 12.8 與 13.4、Vulkan、ROCm 10.0、OpenVINO、SYCL,以及驍龍平台的 Adreno GPU 與 Hexagon NPU;

llama.cpp releasesAI 評分45

llama.cpp b11572 新增 vLLM d3 模型支援

llama.cpp 發布 b11572,新增對 vLLM d3 模型的支援(d2 同步更新),並加入 pplx-decider 模型支援,同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。

Hacker News front page● 精選AI 評分81

Liquid AI 發布 LFM2.5-24B-A2B 端側 agent 模型

Liquid AI 發布 LFM2.5-24B-A2B:24B 引數、每 token 僅啟用 2B 的推理模型,面向端側私有 agent,權重開放,已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型,上下文從 32K 擴至 131K,詞表由 65K 翻倍到 128K,預訓練從 17T 擴到 33T token。

X @karpathy● 精選AI 評分67

Karpathy 分享理解 LLM 輸出的技巧:從 ASD-STE100 到解釋影片

Karpathy 認為,隨著 LLM 能力提升,人類工作將更多轉向監督與理解模型輸出,而 LLM 本身也能在這方面提供幫助。他給出的遞進式技巧包括:要求模型用航空維護文件規範 ASD-STE100 寫作、生成圖表、輸出 HTML 互動網頁,以及製作定製解釋影片,例如用 ElevenLabs API 生成 3b1b 風格影片。他強調可以要求模型產出大型、定製、用完即棄的軟體產物,如網頁應用和影片直譯器。

X @OpenAIDevsAI 評分50

@OpenAIDevs: We built ChatGPT’s ad stack to respond to an evolving conversation, while ensuring answers stay ind…

OpenAI 開發者帳號披露 ChatGPT 廣告系統的技術架構:由 LLM 編排器統一排程檢索、排序與競價模組,讓廣告能跟隨不斷演變的對話內容作出回應,同時強調回答本身保持獨立。該帖只給出各模組的分工,未說明廣告的具體展示形式、計費方式或適用範圍。

Hacker News front pageAI 評分29

開發者吐槽 LLM 招聘郵件:個性化段落與職位描述毫不相關

一位基礎設施工程師記錄了近期收到的一類新招聘郵件:開頭由 LLM 複述其過往任職經歷並稱其「完美匹配」,緊接著的職位描述卻是 Django 全棧等與其背景無關的崗位,甚至職位描述本身也充滿明顯的 LLM 用語。作者認為,相比只替換姓名的老式模板郵件,這種假裝個性化的寫法更冒犯人,因為 LLM 本可以核對簡歷判斷是否匹配,卻只做了表面功夫,而簡單再跑一遍 LLM 或人工校對就能去掉這些痕跡。

Ollama releasesAI 評分42

v0.40.7-rc0 為 MLX 後端加入 PPLX Decider v1.2 支援

v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援(#19072)。該提交實現了基於 Qwen3.5 的決策打分器,採用非因果注意力,同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0,由維護者於 10 月 17 日打上標籤。

機器之心● 精選AI 評分68

AlphaGo 核心作者稱 LLM 不會推理,離開 DeepMind 創業

AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理,並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果,而 LLM 的思維鏈仍只是預測下一個 token,缺少可檢查的認知狀態、知識與推理的分離,且常事後編造解釋。Yann LeCun 表示讚賞,認為真正推理必須涉及搜尋。

llama.cpp releasesAI 評分45

llama.cpp b11778 支援 Nemotron-3(.5)-Embed 模型

llama.cpp 發布 b11778 版本,新增對 Nemotron-3(.5)-Embed 嵌入模型的支援。該版本同步提供 macOS Apple Silicon、iOS、Linux(CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL)以及 Windows、Android、openEuler 等多平台預編譯包,搭載高通晶片的裝置還能額外使用 Adreno GPU 與 Hexagon NPU 加速。

llama.cpp releasesAI 評分40

llama.cpp b11774 修復 LFM2 影像預處理,切片與網格對齊 transformers

llama.cpp 新建置 b11774 修正了 LFM2 系列視覺模型(LFM2-VL、LFM2.5-VL、d1-3B)的 mtmd 影像預處理,使切片與網格選擇與 Hugging Face transformers 一致。此前 llama.cpp 保留寬高比並補黑邊、只有 d1-omni 會拉伸,影像比例與網格不符時切片與 transformers 不同;現在設 PAD_NONE 即與 transformers 相同。