AISpot

搜尋

依意思最接近的 30 筆

Hacker News front pageAI 評分43

去拒答版 DeepSeek 現已有 5 家推理服務商

去拒答(abliterated)版 DeepSeek 現有 5 家獨立推理服務商可用,均支援 1M 上下文。各家價格差距很大:Experiential Labs 與 Hopper 最便宜,輸入每百萬 token $0.30、輸出 $0.03;audn 最貴,為輸入 $4.50、輸出 $0.40。速度上 Refuseless 達 515 tok/s,audn 只有 24 tok/s;Hopper 延遲最低,為 351ms。

Hacker News front pageAI 評分46

Jev 發布 33 天即退燒,折射 AI 行業炒作與創新匱乏

Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。

Latent Space● 精選AI 評分87

DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token

DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;

r/LocalLLaMA top of the dayAI 評分42

專用推理引擎興起,放棄通用性換極致效能

近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。

機器之心● 精選AI 評分86

DeepSeek 開源推理框架 DeepInfer,單卡每小時收入 38 美元

DeepSeek 以 Apache 2.0 開源內部推理框架 DeepInfer 及配套編解碼元件 deepseek-recipe,當前支援 DeepSeek-V4.1-Flash。官方披露單叢集每天吞吐 155 萬億 token,按 API 谷價摺合每卡每小時 38 美元收入,有人以每張 B300 每小時 7 美元租金估算毛利率約 82%。

Hacker News front pageAI 評分56

Minotaur 不用語言模型與 GPU 完成演繹歸納等推理

Minotaur 這套不依賴語言模型、也不用 GPU 的 AI 架構,能完成演繹、歸納、溯因、診斷、實驗選擇與信念修正等多種推理,全部由單個網路、單個普通 CPU 核心完成,每題約 0.25 秒。在由從未看過其程式碼的人設計的盲測中,它在一道“提問會改變證人記憶”的警方訊問推理題,以及僅憑資料學習、診斷和預測系統兩項上,與當前語言模型表現持平。文章還回顧了邏輯理論家、通用問題求解器、專家系統、Prolog 與日本第五代計算機專案等前語言模型路線各自的止步之處。

機器之心● 精選AI 評分68

AlphaGo 核心作者稱 LLM 不會推理,離開 DeepMind 創業

AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理,並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果,而 LLM 的思維鏈仍只是預測下一個 token,缺少可檢查的認知狀態、知識與推理的分離,且常事後編造解釋。Yann LeCun 表示讚賞,認為真正推理必須涉及搜尋。

Hacker News front pageAI 評分67

Artificial Analysis 發布 Intelligence Index v5.0,改用 9 項新評測

Artificial Analysis 將模型智慧指數升級到 v5.0,評測集換成 9 項新基準。Knowledge Work、Coding、Science、General 四類各佔 25%,單項權重最高為 15%,分別是 AA-Briefcase v1.1、FrontierCode 2.0、Terminal-Bench-Science 0.1 和 AA-Omniscience v1.1;

Hacker News front pageAI 評分45

Criteo 初級工程師:AI 時代真正的風險是永遠停在 Junior

在 Criteo 任職的初級工程師 Elise Baturone 認為,AI 不會讓軟體工程師消失,真正的風險是資深工程師消失、所有人永遠停在 Junior 階段。她把自己的 agent 調教成導師,用蘇格拉底式提問做理解檢查,並把「提問」和「review」當成需要自己練的技能:追問 agent 解釋設計選擇、引用來源、論證可疑方案,常能讓它自己發現錯誤。她承認這更費 token,但先弄懂再上線更省事;

機器之心AI 評分48

南芥智慧發布技術報告:Mio 1.0 Lite 九項基準平均分第一、每請求成本最低

南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。

Hacker News front pageAI 評分41

評論:20 美元的 coding agent 正在拆掉 AI 實驗室的客戶

文章認為,OpenAI 與 Anthropic 把 coding agent 以每月 20 美元賣給所有人,反而拆掉了自己最重要的客戶:靠軟體訂閱收費的公司。過去三年,AI 實驗室的說法是用 AI 軟體工程師替代昂貴的人類工程師;但同樣的工具被廉價賣給個人後,業餘開發者週末就能做出 Photoshop 替代品並開源,Adobe 式訂閱收入隨之消失,而且不會流向 AI 實驗室。文中還提到,200 美元/月的套餐一年 2400 美元,低於 Google 高階工程師一個月薪水;

X @deepseek_ai● 精選AI 評分82

DeepSeek 開源自研推理框架 DeepInfer

DeepSeek 已將自研推理框架 DeepInfer 完整開源。該框架在其生產環境中支撐 DeepSeek-V4.1-Flash 的大規模推理服務,主打高吞吐與低延遲。官方表示,公開這套生產環境所用的推理元件是為了幫社群降低算力成本、減少能耗,讓 AI 更可負擔。推文未給出具體效能數字,硬體支援與部署方式需檢視開源倉庫。

NVIDIA blogAI 評分40

Shopify 用 Nemotron 3.5 後訓練,推理成本降 90%

Shopify 用 NVIDIA Nemotron 3.5 Lightning 後訓練出的 GraphQL 子智慧體已接入商家助手 Sidekick,官方稱在內部基準上準確率超過一款領先前沿模型,服務成本降低 90%、回應快 7 倍。配合 NVIDIA CCluster 的 vLLM 推理最佳化,目錄豐富、購物模擬、品類分類、推薦等五個場景效能提升 4.5 倍,推理成本最多降 12 倍。

Hugging Face blog● 精選AI 評分76

Ai2 發布基準:LLM 判斷研究新穎性並不可靠

Ai2 發布 Old Ideas, Novel Problems 研究與配套基準,結論是用 LLM 當新穎性評審並不可靠:只改 prompt 裡幾處措辭,模型分辨兩個想法哪個更新的準確率就變動超過 50 個百分點。測試涵蓋 GPT-5.1、GPT-5.2、GPT-5.4 與 Claude Sonnet 4.5、Opus 4.5/4.6,檢索與額外推理都不能穩定改善判斷,兩個專門建置的新穎性評估系統還不如直接用 prompt 呼叫的 Claude Opus 4.6 基線。

The Verge AIAI 評分43

The Verge 作者開啟本地 AI 日常使用連載,權衡隱私與記憶體成本

《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。

Hacker News front page● 精選AI 評分95

OpenAI 單日發布 372 項數學成果,含 Unique Games 猜想證明

OpenAI 於 10 月 6 日一次性發布 372 項數學成果,其中包括 Subhash Khot 的 Unique Games 猜想證明,部分結果附有 Lean 證書,但並非全部。截至目前似乎還沒有人類讀懂這些證明,理解它們的競賽才剛剛開始。作者妻子、複雜度理論家 Dana Moshkovitz 長期研究 UGC,她稱論文寫得極差、必須靠 AI 輔助才能閱讀,證明構造出一種全新的遞迴編碼與噪聲測試。

機器之心● 精選AI 評分80

混元與復旦發布 ExplorationBench,評測 AI 自主探索能力

復旦大學、騰訊混元與清華大學聯合發布 ExplorationBench,用兩套規則被改寫的「異星世界」AlienCode 和 AlienLogic,評測 AI 能否通過自主實驗發現規則。10 個前沿系統讀完範例後,在 AlienCode 上最高僅 15.7%,四輪探索後最好軌跡達 89.0%;若只讓模型多想、不給環境反饋,最高只有 11.0%。GPT-5.6 Sol 自主探索拿到 88.1%,而事先直接告知全部規則反而只有 69.5%,說明探索過程同時提升了規則的使用能力。

TechCrunch AIAI 評分69

Apate 用 AI 智慧體臥底詐騙套取情報,已浪費騙子 17 年

澳洲初創 Apate.ai 部署數千個 AI 智慧體,偽裝成不同年齡、性別和語言的受害者主動接觸騙子,接聽詐騙電話、回覆可疑資訊、點開釣魚連結,從對話中套出銀行帳戶、加密錢包、電話號碼和仿冒品牌等情報,再提供給銀行、電信與政府客戶。公司稱已完成 250 萬次對話,累計浪費騙子 17 年時間;客戶 TPG 電信轉接了近 59 萬通電話,澳洲聯邦銀行公開報告的詐騙損失下降 76%。該公司 8 月完成 815 萬美元種子輪融資,團隊 20 人,計劃在倫敦設辦公室並擴大美國業務。

Hacker News front pageAI 評分47

六款 AI 決策模型吃豆人對戰,基準與排行榜開源

有人讓 jev 1.13、kev、clef、clef flash、GPT-6 Luna 和 Laya 六款低延遲決策模型玩吃豆人對抗機器人鬼魂,每個模型各跑 100 局,並公布了排行榜。測試倉庫已開源,任何人都能接入自己的模型加入排名。這些模型通過其創業公司 opper 執行,一局成本約 2 美分,併為所有人提供免費試用額度。讀者也能自己扮演吃豆人、由模型當鬼魂,作者稱打破 jev 的高分出乎意料地難。

機器之心● 精選AI 評分79

蘋果與 CMU 提出 SSR:Agent 推理改為做選擇題,每輪延遲降超 90%

蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。

Hacker News front pageAI 評分72

Raschka 發布從零建置推理模型影片課,共 8 集 11 小時

Sebastian Raschka 發布從零建置推理模型的影片課程,共 8 集、總時長超過 11 小時。課程以小型預訓練 Qwen3 模型為起點,用 Python 和 PyTorch 親手實現評估、推理時擴充套件、強化學習與蒸餾,可配合其《Build a Reasoning Model (From Scratch)》一書按章節同步練習。前置要求是熟悉 Python 與 PyTorch;早期文字生成與評測範例在 CPU 上即可執行,後續訓練實驗建議使用 GPU。

Hacker News front pageAI 評分58

作者用 AI 數小時做出正則引擎等底層專案,稱應更敢做

作者以親歷說明 AI 讓「更敢做」變得可行:藉助 SOTA 模型,他只花個位數小時就做出可用的正則引擎、ripgrep 分支和更快的 Rust 建置,而這類工作過去要一年以上。他還為常被當成 AI 生成垃圾的 pgrust(用 Rust 重寫 Postgres)辯護,指出其維護者在測試中發現了多個真實 Postgres bug,涉及數值、格式快取、pgcrypto 與 money 溢位。

Hacker News front page● 精選AI 評分92

Anthropic 發布 Claude Haiku 5.5,執行成本較上代降約 75%

Anthropic 發布 Claude Haiku 5.5,官方稱其是迄今最便宜、最快、能力最強的小模型,平均執行成本比 Haiku 4.5 低約 75%。定價為每百萬 token 輸入 0.10 美元、輸出 0.50 美元(提示 10 萬 token 以內),並首次在 Haiku 級模型上提供可調 effort 設定,用於權衡成本與智慧。

TechCrunch AIAI 評分53

簡訊 AI 助手盤點:Instinct 估值 100 億美元

越來越多 AI 助手不再需要單獨下載 App,直接用 iMessage、RCS 或簡訊就能對話並代辦任務。其中 Instinct 於 2026 年 9 月完成 10 億美元融資、估值達 100 億美元,並開始給使用者分配助手專屬信箱地址、上線代打電話功能,目前仍處私測。其餘選項裡,Folk 免費、Pro 訂閱 8.33 美元/月,Comma 開源且免費起步,Fambot 主打家庭日程並每晚推送次日摘要,Martin 訂閱 21 美元/月起。

Hacker News front pageAI 評分46

AI 數學發現快過學界消化,評論借《路邊野餐》作類比

一篇評論用斯特魯加茨基兄弟的科幻小說《路邊野餐》類比 AI 對科學的衝擊:AI 實驗室正成批產出數學發現,多到要另附導讀,速度遠超學界消化能力。作者稱這類「發現傾倒」會出現在所有能閉環快速驗證的領域;NYU 數學教授 Tristan Buckmaster 提到最近一批 AI 科學論文讓整個研究專案一夜之間被抹掉。文章的核心判斷是答案將越來越先於理解到來,理解成為瓶頸,這或許也是反加速主義少有的有效論據。

X @deepseek_ai● 精選AI 評分60

DeepSeek 介紹 DeepInfer 推理引擎,含分散式推理與投機解碼

DeepSeek 介紹 DeepInfer 推理引擎,包含高效能核心與最佳化推理引擎、分散式推理與投機解碼、SWA Bounded Replay 和結構化輸出。官方稱未來 DeepSeek 模型的推理程式碼及後續最佳化也將在此發布。帖文未給出效能資料、支援模型或上線時間。

TechCrunch AIAI 評分56

簡訊 AI 助手盤點:Instinct 估值達 100 億美元

可直接發簡訊使用的 AI 助手正批次出現,其中 Instinct 在 9 月完成 10 億美元融資、估值達 100 億美元,併為助手提供專屬信箱。這些 agent 能記住上下文、連線日曆和信箱並代為執行任務;Ask Proxy 個人版 1 美元/天、企業版 15–23 美元/人/月,Caddy 走 iMessage/RCS,Comma 開源免費,Fambot 測試期免費、計劃收約 Netflix 訂閱費,Folk Pro 8.33 美元/月。