搜尋 關鍵字 語意 依意思最接近的 30 筆
llama.cpp releases10/6 18:16 AI 評分40
llama.cpp 發布 b11447 建置版本,本次列出的功能變更是新增對 pplx-decider 模型的支援(PR #30044)。該版本一次性放出 macOS/iOS、Linux、Android、Windows、openEuler 五個平台的預編譯產物,計算後端覆蓋 CPU、CUDA 12.8 與 13.4、Vulkan、ROCm 10.0、OpenVINO、SYCL,以及驍龍平台的 Adreno GPU 與 Hexagon NPU;
llama.cpp releases10/12 14:00 AI 評分42
llama.cpp 發布 b11571 建置,新增對 pplx-decider(vLLM decision 2)模型的支援,並加入更嚴格的模型校驗、明確命名規則等改動。該版本同步提供 macOS、Linux、Windows、Android 各平台預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
Ollama releases10/21 04:01 AI 評分50
Ollama v0.40.7 引入 Perplexity 的 27B 決策模型 pplx-decider,基於 Qwen3.8-27B 微調。該版本修復了 OpenAI 相容 Responses 對話在有無 thinking 的模型間切換、或歷史含其他廠商壓縮項時失敗的問題,並糾正流式請求中客戶端工具呼叫早於 reasoning 項輸出導致的亂序與重複事件。客戶端斷連後,路由到遠端模型的請求會在 ollama.com 上取消,不再繼續執行;
X @OpenAIDevs● 精選 10/6 20:47 AI 評分78
OpenAI 開發者帳號宣布,Decisions API 現已進入公開測試,面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作,官方給出的對比資料是:經由 Responses API 呼叫時,其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
Hacker News front page● 精選 10/6 20:57 AI 評分83
OpenAI 的 Decisions API 進入公測,官方稱其評估文字、影像或兩者並返回結構化答案的速度約為 Responses API 的 10 倍,預計數週內 GA。該 API 使用獨立的 POST /v1/decisions 端點,目前僅支援 gpt-6-luna,問題分三類:predicate 返回條件成立機率(0 到 1)、choice 從給定選項中選一個、score 按有序等級給出機率加權平均分。
Hacker News front page10/11 23:47 AI 評分62
Plimsoll 是自託管沙箱,用於執行 AI agent 寫出的不可信程式碼,每條結果都標明實際隔離等級(process、container、kernel、vm 四級),請求可設最低等級,達不到就不執行任何程式碼。它還能對 agent 程式碼出題:映象內建 trial runner 用程式讀不到的場景測試,並返回請求與結果的 SHA-256 雜湊,由沙箱外的 plimsoll-attest 簽名、重放。
Cloudflare blog (AI)● 精選 10/1 15:34 AI 評分76
Cloudflare 發布兩個自研決策模型 Clef 與 Clef-flash,託管在 Workers AI,並以 Apache 2.0 許可在 Hugging Face 開源,同時推出新的強化學習微調平台。Clef 目前在 Jev Decision Index 上排名第一,帶視覺編碼器、64k 上下文,而 Jev 只做文字分類、上下文 32k。這類模型輸出帶機率的結構化分類,供 agent 決定路由、升級或轉人工。
Ollama releases10/13 04:50 AI 評分38
v0.40.4-rc1 為 MLX 加入 Kev 決策打分(decision scoring)。這一候選版本支援按 FP32 決策頭與發布後設資料載入 Kev 模型,並提供 System One 打分,配套共享狀態快取與 Kev 專屬限制(PR #18976)。該標籤由 dhiltgen 於 10 月 13 日打上,commit 665f9e0 帶 GitHub 驗證簽名。
X @OpenAIDevs10/6 20:47 AI 評分37
OpenAI 開發者帳號公布 Decisions API 的六類典型用法:把請求路由到合適的模型、工具或智慧體;把規模化輸入轉成標籤、排名和評分;分析影像、比較視覺內容或定位影片關鍵幀;依據截圖選擇按鈕、填寫表單或判斷操作;標記有風險的工具呼叫或需深入審查的問題;以及對大規模資料集分類以發現趨勢和模式。推文未給出定價、可用範圍或上線時間等資訊。
X @OpenAIDevs10/6 20:47 AI 評分51
OpenAI 開發者帳號宣布 Decisions API 進入 public beta,開發者現在可以試用。官方給出的入口是 developers.openai.com 上的 API 文件指南頁面。原文未披露該 API 的具體功能、計費方式與額度限制。
TechCrunch AI10/13 17:18 AI 評分65
Pluto Security 結束隱身狀態,宣布獲得 4200 萬美元融資,含 Jump Capital 領投的 3400 萬美元 A 輪與 TLV Partners 領投的 850 萬美元種子輪。其平台監控員工使用的 AI 工具、agent、MCP 伺服器與擴充套件元件,並可在 agent 執行中攔截越權操作或注入指令要求確認。CEO 稱新 AI 工具發布兩小時內就會出現在企業環境裡,客戶中約 60% 的風險來自非開發者 vibe coding 出的應用,財務部門最多;
Hacker News front page10/8 16:34 AI 評分47
有人讓 jev 1.13、kev、clef、clef flash、GPT-6 Luna 和 Laya 六款低延遲決策模型玩吃豆人對抗機器人鬼魂,每個模型各跑 100 局,並公布了排行榜。測試倉庫已開源,任何人都能接入自己的模型加入排名。這些模型通過其創業公司 opper 執行,一局成本約 2 美分,併為所有人提供免費試用額度。讀者也能自己扮演吃豆人、由模型當鬼魂,作者稱打破 jev 的高分出乎意料地難。
Ollama releases10/18 00:28 AI 評分42
v0.40.7-rc0 預發布版本為 MLX 後端加入 PPLX Decider v1.2 支援(#19072)。該提交實現了基於 Qwen3.5 的決策打分器,採用非因果注意力,同時包含 publisher readout、影像處理與 System One prompt 編碼等改動。該版本為候選發布 rc0,由維護者於 10 月 17 日打上標籤。
Simon Willison● 精選 10/6 23:04 AI 評分65
OpenAI 發布新的 Decisions API,支援 yes/no、選項和打分三類問題,新模型 gpt-6-luna 相比 Jev 額外支援影像輸入。兩者都只對輸入計費:OpenAI 為 10 美分/百萬輸入 token,Jev 為 4.2 美分/百萬。
X @GoogleDeepMind● 精選 10/7 14:03 AI 評分85
Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。
Ollama releases● 精選 10/4 23:54 AI 評分75
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5,決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX,官方稱會繼續測試並啟用更多模型。
Ollama releases10/4 14:45 AI 評分45
MLX 發布 v0.40.0-rc1,核心改動是讓本地 tokenizer 與模型發布方的語義保持一致,涵蓋預分詞階段順序、切分行為、Unicode 邊界、added token 歸一化和 BPE 合併排序,並統一處理空 added token 與空 Metaspace 輸入。同時新增 Go/Python 共享參考用例,直接拉取缺失模型並在出錯時失敗,另加配置優先順序、位元組回退與並行編碼的迴歸測試。
Hacker News front page● 精選 10/13 21:55 AI 評分76
Physical Intelligence 上線 Pi API beta,把 π0、π0.5 等機器人基礎模型開放給開發者微調與託管推理。開發者上傳資料後,在官方管理的算力上啟動微調,再通過託管閘道器在自家機器人上跑推理,並用評估資料決定下一輪採集。早期合作方 Actor 的自主輪式裝載機已在無操作員的真實商業場景中裝卸物料,Almond 的雙臂機器人 Axol 用團隊迭代四天得到的模型為自身零件去毛刺。多數應用走雲端推理,部分遇到網路連線問題,beta 報名已開放。
TechCrunch AI10/6 20:35 AI 評分69
Musubi 於週二發布輕量級決策模型 PolicyLM-1.7B,開放權重,專為即時內容稽核設計,可在 50 毫秒內把用自然語言寫成的社群政策套用到訊息上。其成本與速度接近多數社交平台現用的 AI 分類器,但無需專門訓練即可執行復雜政策,政策變更時也不必重新訓練,模型只輸出內容是否屬於某類別的二元判斷。聯合創始人兼首席 AI 官 Filip Jankovic 稱這讓平台管理者能主動、可擴充套件地標註內容;
Ollama releases● 精選 10/14 02:23 AI 評分70
Ollama v0.40.4 讓決策模型可以直接在終端呼叫:用 ollama run --ask 就能提出是非問題、把文字分類到標籤或按評分標準打分。這一版還讓 Apple silicon 的 MLX runner 支援 Kev 決策模型,ollama launch 用 usage credits 也能使用、無需升級付費方案。ollama launch codex 的模型選擇器會列出本地已安裝的 Ollama 模型,可在 Codex CLI 裡用 /model 切換;
Ollama releases● 精選 10/6 18:47 AI 評分82
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
Hacker News front page10/14 14:40 AI 評分65
AWS 工程師 Marc Brooker 用實驗比較編碼器與解碼器架構在 strands-decider 上的表現,結論是這一規模下兩者都沒有明顯優勢。編碼器-only 的 e1b 延遲中位數約 35ms,低於基於 Qwen3.5 改造的 2B 解碼器 v19 的 65ms,精度大致相當,但 prompt 變長後擴充套件性更差;
Hugging Face blog● 精選 10/7 16:54 AI 評分73
LiquidAI 發布 d1 決策模型家族的兩款開放權重模型 d1-3B 與實驗性的 d1-omni-600M,二者都基於 Liquid Foundation Models,不逐 token 生成,而是在單次前向傳播中直接給出答案。d1-3B 在 Decision Index 0.2.1 上得 48.57,為 10B 以下最佳,超過 Decider 35B-A3B 的 47.11;
TechCrunch AI10/12 12:47 AI 評分42
前 Plaud 高管創辦的 AI 應用公司完成 2600 萬美元融資,該應用的核心能力是在後臺持續收聽使用者。原文稱,其思路延續科技公司的主張:AI 瞭解一個人越多,就越能協助任務並給出合適建議,而這要求應用與裝置持續聆聽、觀看或記錄使用者活動以收集上下文。報導未提及產品名稱、上線時間與具體功能。
Hacker News front page● 精選 10/7 02:02 AI 評分77
Strands Labs 開源了 2B 引數的決策模型 Strands Decider 2B,權重已上 Hugging Face,訓練資料與指令碼一併公開。它基於 Qwen3.5-2B 去掉 LM head、換成約百萬引數的 pointer head 並加 rank-16 LoRA 微調,只能從給定選項中作答或打分,因此不支援編碼、聊天與摘要。
Ollama releases● 精選 10/6 01:53 AI 評分79
Ollama 發布 v0.40.0:在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5,決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行,官方稱將繼續啟用更多模型。
Hacker News front page10/15 07:20 AI 評分65
awslabs 發布 AI-DLC 最新穩定版,這是一套與 harness 無關的 AI 編碼工作流核心,可原生執行在 Claude Code、Kiro CLI、Kiro IDE、Codex CLI、Cursor、opencode 與 GitHub Copilot 中。macOS、Linux、WSL 和 Windows 各有一條安裝命令,原生安裝自帶 aidlc 命令與各 harness 執行時,無需 Bun 或 Node.js。
Ollama blog● 精選 10/19 00:00 AI 評分79
Cloudflare 的 27B 多模態決策模型 Clef 已上線 Ollama,既可本地執行,也可使用 Ollama 雲端。它基於 Qwen3.8-27B 微調,採用 Apache 2.0 許可,接受文字、JSON 或圖片輸入,單次讀取就為所有問題同時打分,而非逐詞生成,併相容 Jev 與 System One API。官方稱其登頂 Cloudflare Decision Index,在多數基準上超過 Jev;
Hacker News front page● 精選 10/9 18:38 AI 評分80
微軟推出決策評分模型 Microsoft-Decision-1,已在 Microsoft Foundry 上線,並將登陸 OpenRouter。該模型基於 Qwen3.5-9B 後訓練,用於路由、分類、優先順序排序、驗證與工作流控制,支援是/否、多選、評分及對 AI 回答和 agent 動作的 rubric 打分。官方稱其在 36 項基準、近 15 萬道題中準確率最高,P50 延遲比 GPT-6 Sol 快約 35 倍、比第二名 Quyet-1.0-Large 快 4.5 倍;
r/LocalLLaMA top of the day10/3 18:24 AI 評分42
近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。