AISpot

搜尋

依意思最接近的 27 筆

X @OpenAIDevs● 精選AI 評分60

OpenAI 儲存讀取延遲從約 120ms 降至約 10ms

OpenAI 將全球儲存讀取的中位延遲從約 120ms 降到約 10ms。官方稱,這一變化來自快取、複製以及 Python 到 Rust 的重寫共同作用,產品團隊因此需要管理的基礎設施更少、迭代更快。該訊息由 OpenAI Devs 發布,並連結到《Scaling Storage to One Billion Users, Part Two》一文。

Hacker News front pageAI 評分41

部落格:讀 AI 生成文字速度至少慢三分之一,風格與精度雙雙流失

一位作者在部落格中稱,自己閱讀 AI 生成文字的速度至少慢三分之一,即便篇幅相同。他把原因歸為兩點:AI 會平均化寫作風格,讀者難以感知作者本人及其語境;AI 為把文字拼接通順必須自行假設,傾向選擇更模糊的措辭,從而損失精度。他還指出多數模型輸出囉嗦,讀者需自行替換含糊詞,寫作者省下的時間會轉嫁到讀者一側,並帶來更多追問、更多迭代與信任下降。

TechCrunch AIAI 評分58

調查:超半數高管稱用 AI 後更難評估員工績效

Monday.com 委託 Nielsen 對七國 1700 名董事與高管調查顯示,超半數認為員工產出經 AI 打磨後難辨人機貢獻,近半數因此花更多時間審閱團隊產出。94% 仍對 AI 感到興奮,但 78% 已改變考核方式,更看重提示詞撰寫與任務分配能力;39% 用 AI 起草績效評估,46% 用 AI 輔助決策。57% 的組織在用的工具反而變多,僅 29% 稱 AI 基礎設施已集中最佳化;58% 預計一年內要監督的 AI agent 數量將超過人類員工。

r/LocalLLaMA top of the dayAI 評分42

專用推理引擎興起,放棄通用性換極致效能

近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。

X @OpenAIDevsAI 評分46

@OpenAIDevs: We reserved broad replication for small, critical datasets like authentication metadata needed on e…

OpenAI Devs 表示,團隊用 Rust 重寫服務層,降低了代理開銷。對認證後設資料這類每個請求都必需的小型關鍵資料集,團隊保留了廣泛複製;設定和應用狀態等高頻訪問資料則由區域內快取提供。推文列出這三項基礎設施最佳化,但未給出延遲、吞吐等具體數字或生效範圍。

X @OpenAIDevsAI 評分42

@OpenAIDevs: We serve data in milliseconds to more than 1.2 billion users across 40 geographic regions.

OpenAI 開發者帳號披露,其與 Azure Cosmos DB 合作改造儲存架構,全球讀取延遲中位數改善 12 倍。該架構支撐其在 40 個地理區域、面向超過 12 億使用者的毫秒級資料服務。帖文只給出了延遲改善倍數和使用者規模,未說明具體延遲數值、改造週期和涉及的產品線。

Hacker News front pageAI 評分68

Llmspeed 上線:按硬體和模型查本地大模型推理速度

Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站,用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置,以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型,給出短提示、單裝置下的速度估計。

機器之心AI 評分42

OpenAI 將 RSI 列為戰略目標,MemoraX 展示記憶驅動自進化

OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。

OpenAI News● 精選AI 評分65

OpenAI 擴容 Habitat 儲存,ChatGPT 讀取速度提升 12 倍

OpenAI 介紹了線上儲存系統 Habitat 的擴容方案,使 ChatGPT 的讀取速度提升 12 倍,以支撐超過 10 億使用者。方案主要依靠可靠的多租戶架構、全域性快取,以及 Azure Cosmos DB 儲存層。這是該系列的第二篇,重點在工程實現細節。

Hacker News front pageAI 評分69

Faros 研究:高 AI 採用團隊 bug 增 54%、PR 評審耗時漲約 5 倍

Faros 2026 年研究分析 22,000 名開發者、4,000 個團隊兩年遙測資料後發現,AI 採用度高的組織每位開發者 bug 增加 54%,PR 評審中位耗時約漲 5 倍,每 PR 事故數超 3 倍;其 Q3 報告稱部分效應有所緩解,但驗證與運維成本仍在累積。

The Verge AIAI 評分43

The Verge 作者開啟本地 AI 日常使用連載,權衡隱私與記憶體成本

《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。

TechCrunch AIAI 評分55

Ricursive Intelligence 在 Disrupt 講用 AI 設計晶片應對算力危機

Ricursive Intelligence 兩位創始人在 TechCrunch Disrupt 上介紹,公司正開發能自行設計晶片、從每次迭代中學習並改進後續設計的 AI,目標是自動化並加速晶片設計流程。創始人 Anna Goldie 與 Azalia Mirhoseini 稱未來五年算力需求至少增長 10000 倍,與其建 10000 倍資料中心,不如讓晶片和晶圓用得更高效;

Hacker News front pageAI 評分47

Spinellis:AI 將接管認知工作,思考會變成愛好

軟體工程學者 Diomidis Spinellis 在部落格中判斷,AI 將接管大部分認知工作,思考會像狩獵、書法和木工一樣,從謀生手段變成休閒愛好。他給出三個驅動因素:效能更高、成本更低、可用性更高,並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力,政府可能以監管和稅收限制 AI,但歷史上的類似舉措未能阻止技術革命;他建議保持靈活、跟上進展,並在工作之外建立有意義的生活。

X @lmstudioAI 評分45

@lmstudio: Read Aloud is available for Mac in Bionic 1.1.9, supporting 1 multilingual voice.

LM Studio 的 Bionic 1.1.9 Mac 版加入 Read Aloud 朗讀功能,可用 1 個多語言語音把模型輸出讀出來。目前只有 macOS 能用,Windows 與 Linux 版要等到下一個版本才會有 TTS。官方沒有說明這個語音具體支援哪些語言,也沒有說明能否調整語速或更換音色。

量子位● 精選AI 評分81

PaperBenchX 發布:GPT-6 Astra 完整復現率僅 13.98%

UniPat AI 發布 PaperBenchX,稱其為國際上首個多學科端到端論文結果復現基準,從 93 篇論文建置 93 個復現任務,橫跨電磁、光子、化學、材料、生物、機器人等 12 個研究方向和 10 種領域原生科學環境,含 3168 條專家校驗評分項。在這 93 個任務上,表現最強的 GPT-6 Astra 完整復現率只有 13.98%,建模與執行階段平均得分約 62%,驗證階段僅 42.8%。

Hacker News front pageAI 評分52

論文:如何讓 System 1 大模型展現 System 2 能力

AAAI 期刊論文《How to make System 1 LLMs show System 2 competencies?》在 Wiley Online Library 上線,研究如何讓直覺式(System 1)大模型表現出慢思考(System 2)的能力。全文需經 Wiley 連結檢視,Hacker News 同期討論帖僅 7 分、1 條評論。原文未披露所用方法、模型與實驗資料。

OpenAI NewsAI 評分46

Third Moment 用 GPT-6 與 Codex 併發執行 1 萬個 agent

AI 實驗室 Third Moment Research 藉助 OpenAI 的 GPT-6 Astra、GPT-6.1 Sol 與 Codex,可同時執行 1 萬個 agent,單次自主研究持續 36–48 小時。Codex 曾定位量化回測瓶頸並部署快取與記憶體打包最佳化,把一年美股訂單級資料的回測從約 3 小時縮短到 3–5 分鐘,回測時間減少 97%。

Latent Space● 精選AI 評分87

DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token

DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;

Hacker News front pageAI 評分46

The Consensus 上線 AI 寫作痕跡檢測器,命中文章不獲推薦

軟體基礎設施部落格 The Consensus 上線自研「AI tells」檢測器,用靜態規則比對 2023 年前後的寫作差異,處於第 99 百分位的文章將失去首頁 At a Glance 板塊、社交媒體和每週 newsletter 的推薦資格。該檢測器不判斷文章是否由 AI 撰寫,只提示讀起來像 AI 寫作,作者稱它偶爾也會誤判自己的文章。讀者仍可在 feed 搜尋中用 aitells<90 過濾,作者也承認規則可被繞過,但認為這反而會促使各家寫出自己的風格。

Hacker News front pageAI 評分46

Jev 發布 33 天即退燒,折射 AI 行業炒作與創新匱乏

Jev 發布 33 天后熱度迅速消退,這篇評論借它批評 AI 行業靠營銷話術製造期待。文章指出 Jev 本質是通用分類器,宣稱不會幻覺、更快更便宜,但輸出仍會出錯,且已有開放權重模型在部分任務上價效比更高,並可在本地執行。作者還稱其非自迴歸決策模型思路早於 Jev 一年半出現,並由此質疑行業四年來的創新增量。

Hugging Face blog● 精選AI 評分77

Ai2 發布 FairStress 公平性基準,含 1300 萬測試用例

Ai2 發布 FairStress 基準;除模型最終選擇外,它還測量模型在說服性論點下改變決定的難易程度是否因涉及群體而異。該基準包含 300 個雙候選人場景,覆蓋 29 個領域;組合身份呈現方式與對抗性字首後擴充套件為逾 1300 萬個測試用例,並另發布 5 萬條 FairStress-Core 子集,整合進 Olmo-eval。測試覆蓋 Olmo、Llama、Qwen、Gemma、Claude 與 GPT 系列,結果顯示同一論點會因受益群體不同而對模型決策產生不同影響。

Hacker News front pageAI 評分73

AI 設計的開源加速卡 openTPU 跑通十餘款模型

一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。