搜尋 關鍵字 語意 依意思最接近的 19 筆
Hacker News front page10/29 15:45 AI 評分63
SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。
Hugging Face blog● 精選 10/9 15:20 AI 評分69
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
Hacker News front page10/4 19:42 AI 評分72
斯坦福教授 John Ousterhout 在 AI Engineer 演講中提出 Homa,一種面向資料中心的全新傳輸協議,認為 TCP 和 RDMA 正成為 AI 叢集的瓶頸。他指出 AI 負載已從大流量梯度傳輸轉向 KV cache 查詢、屏障同步等小訊息協調,這類訊息對延遲敏感,一旦與大數據流混排就會陷入 incast 佇列,拖高尾延遲並讓 GPU 空轉。Homa 基於訊息而非位元組流,採用接收端驅動的擁塞控制,並用 SRPT 優先排程短訊息。
Hacker News front page10/12 16:54 AI 評分47
軟體工程學者 Diomidis Spinellis 在部落格中判斷,AI 將接管大部分認知工作,思考會像狩獵、書法和木工一樣,從謀生手段變成休閒愛好。他給出三個驅動因素:效能更高、成本更低、可用性更高,並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力,政府可能以監管和稅收限制 AI,但歷史上的類似舉措未能阻止技術革命;他建議保持靈活、跟上進展,並在工作之外建立有意義的生活。
TechCrunch AI10/5 14:35 AI 評分57
獨立研究者 10 月 5 日發布初步發現,追蹤到一批並行的 AI agent,疑似執行在騰訊的基礎設施上,目標指向阿里巴巴的高德地圖服務,查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞,稱應叫 agent fleet:多個 agent 執行同類任務,彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的,該服務常被 agent 用來載入無法直接訪問的網站並留下記錄;研究仍在進行中。
r/LocalLLaMA top of the day10/2 17:47 AI 評分68
Percepta 公布新架構 Spotlight,用可讀寫記憶取代注意力機制,宣稱是首個實現記憶無限增長而不增加訪問成本的架構。每個 token 只讀寫少量記憶單元,稀疏度可任意調節,不像 MoE 那樣固定啟用比例。該架構把負責計算的智慧模組與存放知識、流程和狀態的記憶分離,模型權重不隨記憶增長而改變,可自行決定載入與覆寫,從而無需重訓練即可獲得新能力。
OpenAI News● 精選 11/2 15:00 AI 評分67
OpenAI 啟動 Grid Protectors 計劃,讓未來的計算園區在電網緊張時主動降低用電需求。計劃從喬治亞州開始,規劃中的 Effingham County 園區將由 OpenAI 承擔全部基礎設施與供電成本,並與 Georgia Power 達成最高 1,000 兆瓦的柔性需求回應,相當於約 70 萬戶家庭的平均用電量。
量子位10/20 08:01 AI 評分53
是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架,其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax,最佳化目標是滿足服務要求的達標輸出吞吐;另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%,官方註明屬收益測算範例。
機器之心● 精選 10/14 02:32 AI 評分79
南開大學聯合阿里雲、清華大學提出 PoS(Progression of States),把智慧體持續互動卻無實質進展的狀態定義為 Belief Trapping,並用顯式信念狀態、Belief Health 檢測與 Trapping-Aware Recovery 打破它。
NVIDIA blog10/22 15:00 AI 評分61
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
量子位10/16 07:16 AI 評分50
10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。
機器之心10/31 03:16 AI 評分63
無問芯穹的 GPU 運算元最佳化 Agent 框架在 NVIDIA Research 的 SOL-ExecBench 上登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理四大賽道;在全部 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍。該系統把工作區、除錯區和評測區徹底隔離,評測容器停用網路,並用 Skills、共享記憶與統一 GPU 排程讓 Agent 完成程式碼生成、評測驗證、效能分析和策略調整的閉環。
NVIDIA blog11/3 07:00 AI 評分43
NVIDIA 與合作伙伴把物理 AI 與 agentic AI 擴充套件到全球城市,用於居民服務、影片分析與數字孿生。西班牙 1MillionBot 把巴塞羅那超算中心的開源 ALIA 模型與 Nemotron 結合,已在當地 150 多個場景部署;馬來西亞 ITMAX 的 SamurAI V2 視覺 agent 計劃到 2027 年支援 1.7 萬路以上攝像頭,其 TeraSim 模擬把高峰通行時間最多縮短 26%。
Hacker News front page10/29 06:24 AI 評分54
開源 AI agent 治理層 Bernstein 更新至 v3.23.0,提供 53 個 CLI agent 介面卡,採用 Apache 2.0 許可並支援本地部署。它用不參與協調的確定性 Python 排程器並行執行 agent,同一個計劃可以逐位元組重放,流程依次為任務拆解、在隔離 worktree 中生成 agent、用測試、型別檢查和 lint 驗證,最後只合並通過驗證的 diff。
機器之心● 精選 10/17 17:00 AI 評分65
Manifold AI 流形空間的 WorldScape R²SI 框架在機器人學習基準 RoboDojo 的 Agent Track 登頂,超過 GPT-6-Astra 與輝達 GR00T-N1.7。該框架由內外雙層 Agent 組成,內層執行任務,外層跨輪次復盤、修訂 Skill 並訓練 reactive model(WSP)。在 push_T 任務中,動作步數從首輪 723 步(超出 600 步預算)降至 596 步,再降至 389 步,降幅約 35%。
Hacker News front page10/6 16:23 AI 評分73
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
機器之心● 精選 10/16 09:45 AI 評分73
廈門大學 ASC 實驗室的 FlowMAS 被 NeurIPS 2026 錄用:它用生成流網路(GFlowNet)把多智慧體工作流拓撲的設計變成可學習的生成問題,讓 AI 自動學出團隊的排兵佈陣。方法引入好奇心驅動與資訊引導兩個模組,在搭建每一步給中間結構發過程性獎勵,後者用資訊理論衡量多路 AI 輸出的協同與冗餘。在 6 個基準、3 種模型底座上,它比手工設計平均高 8.17 分、比自動化方法高 6.12 分;
機器之心● 精選 10/26 06:28 AI 評分75
清華大學與新加坡國立大學提出 ParallelWorld,讓具身智慧體在高層規劃中先預演多條候選動作的未來,把任務成功率從 56% 提升至 83%。系統會推演各分支後續觀察、剪去較差路徑,選定軌跡後只執行第一個動作再依新觀察重新規劃;在 ESI-Bench 的 28 個子任務中 26 項超過順序式主動探索,LIBERO-Pro 八個操作設定全部超過直接基線,Spatial 位置交換提升 27 個百分點。
TechCrunch AI11/1 21:55 AI 評分34
據 Axios 報導,OpenAI 正籌備美國中期選舉後的公關行動,其中一項是把資料中心重新包裝為「AI 計算園區」。首席全球事務官 Chris Lehane 同時提出為 AI 設「限速」、推動美國參與制定全球標準,並讓公眾更多感受到 AI 在日常生活中的作用。他把當前圍繞資料中心的爭論稱為「良性且健康」,認為社群應讓企業為這類專案負責。