搜尋 關鍵字 語意 依意思最接近的 26 筆
機器之心● 精選 10/19 11:02 AI 評分77
人大、百度、清華等機構開源視覺語言模型 LoopVL,把迴圈 Transformer 擴充套件到多模態:僅 1B 語言主幹、0.14T 訓練 token,就在 MMMU-Pro、MathVision 等評測上追平或超過用約 36T token 訓練的 Qwen3.5-2B、InternVL3.5-2B。模型以 32 層引數展開 128 次層呼叫(H2L3×2),影像只編碼一次,後續迴圈持續更新視覺—語言狀態;
機器之心● 精選 10/16 06:58 AI 評分83
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。
Hugging Face blog● 精選 10/20 00:00 AI 評分77
Hugging Face 宣布 PyTorch 原生 TPU 後端 TorchTPU 落地,Transformers、Diffusers 與 Kernels 現在可直接在 TPU 上執行,不再需要 torch_xla 或 Optimum TPU。安裝只需一條 pip 命令;
Hacker News front page10/14 05:53 AI 評分67
Anthropic 週一發布研究報告,稱可自我複製的 AI 蠕蟲可能數月內就具備在 IoT 裝置上擴散的能力。報告稱 90 億引數模型在 9 類硬體中的 8 類上成功部署推理,Gemma4-26B-A4B 分散跑在 15 臺安卓電視盒上僅 0.39 tokens/秒;GLM-5.2 成功向 8 個安卓 15 模擬器節點傳播 Llama3.1-8B,5 次試驗中 4 次全部成功。
機器之心● 精選 10/26 06:35 AI 評分70
Q Labs 發布 Dust,這是一種不依賴反向傳播、能在 Transformer 預訓練任務上與反向傳播競爭的零階最佳化方法:它在每層啟用值上按 token 獨立新增高斯噪聲,一次前向傳播即可並行評估數千個「虛擬種群」成員,並據此估計梯度。團隊在 FineWeb 上最大隻驗證到 2.43 億引數、2000 萬 token,並稱在大規模種群下可逼近甚至超過反向傳播,但成本仍高几個數量級;第三方復現認為其優勢有限,反向傳播換用更合適的最佳化器後會明顯領先。
Hacker News front page10/29 23:25 AI 評分50
開發者發布 DOOMFORMER,用 DOOM 的遊戲機制和 voodoo dolls 實現 Transformer 所需運算,做出一個比 NumPy 慢 65000 倍的替代方案。作者強調 DOOM 圖靈完備,因此能把遊戲機制替換成實際運算。目前 DOOMFORMER 已經能分類 MNIST 數字(包括寫在地圖上的數字)、做簡單對話、做決策並玩 DOOM;還可用它生成地圖,讓 DOOM 控制遊戲角色。作者稱更大規模訓練可在 T4 上完成,並希望有人合作擴充套件。
Hacker News front page10/6 16:23 AI 評分73
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
Hacker News front page10/19 16:00 AI 評分60
Laminar 發布 flow-1,一個用強化學習訓練、專門在 agent 追蹤(trace)裡找錯誤的模型。官方基準稱其查錯品質與 GPT-6-sol 持平,成本卻低 23 倍,因此可以對每條生產環境 trace 做全量分析而不必取樣。
機器之心● 精選 10/14 02:38 AI 評分84
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
Hacker News front page● 精選 10/5 21:15 AI 評分79
研究者提出 Dust,稱這是首個在預訓練 Transformer 語言模型上與反向傳播有競爭力的零階方法。它不擾動權重,而是在每個 token 上獨立擾動啟用(node perturbation),把每個 token 當作一個虛擬種群成員,一次前向傳播即可並行評估全部成員。論文稱在種群規模足夠大(即算力顯著更多)時 Dust 接近反向傳播,部分設定下甚至超過;
Simon Willison10/7 23:14 AI 評分23
班·艾佛列克在引述中表示,視覺特效工作流多年來一直包含機器學習,他把卷積神經網路(CNN)稱為 transformer 的前身,區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」,並解釋張量是畫面在數值上的翻譯——批次號、幀號,以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取,識別出窗臺在哪裡,就能更容易地把綠幕部分摳掉並替換成別的內容。
機器之心● 精選 10/6 12:27 AI 評分84
清華團隊開源後訓練模型 VeriLoop E2,由獨立外部 Verifier 決定候選狀態能否獲得提交資格,而非依賴模型內部置信度。該模型以 Qwen 3.8-27B 為基礎,面向程式碼、數學與物理三類可外部驗證任務,並同步發布標準權重與覆蓋 BF16 至 IQ1_M 的 GGUF 量化版,其中 Q6_K 為 20.566 GiB,比 BF16 小 58.96%。
TechCrunch AI● 精選 10/19 20:09 AI 評分81
AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。
機器之心● 精選 10/20 02:56 AI 評分76
清華、原力靈機與極寰時代聯合研發的世界動作模型 LoopWAM 登頂真機評測榜 RoboChallenge Table30 V2,成功率與過程分均列第一。它把成功、次優與失敗軌跡一併納入訓練,靠品質加權監督從部署經驗中自提升,三輪閉環把 30 項任務的成功率從 23.67% 提到 43.33%,過程分從 36.10 升到 56.80,且無需額外專家演示或強化學習。所有評測模型均由阿里雲 PPU-810E 國產卡訓練;
Ars Technica AI10/14 12:55 AI 評分69
Anthropic 警告稱,最早明年小型 AI 模型可能具備在各類 IoT 裝置上自主自我複製的能力,進而催生無需人類互動即可傳播的計算機蠕蟲,感染智慧冰箱、吸塵器等陌生裝置。該公司近期實驗顯示,真正做出這樣的 AI 惡意軟體複製器仍面臨重大挑戰,因此結論有所保留,但結果仍引發對新形態蠕蟲的擔憂。Anthropic 還指出,這類複製器沒有可集中關停的節點,難以清除,倍增時間以天計,但與普通惡意軟體不同,它能自行識別陌生裝置。
Hugging Face blog● 精選 10/13 17:05 AI 評分81
LiquidAI 發布 LFM2.5-24B-A2B:總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型,專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答,能呼叫工具,上下文由上一代 32K 擴到 131K,詞表從 65K 翻倍至 128K。
r/LocalLLaMA top of the day10/3 07:00 AI 評分65
LiquidAI 發布 LFM2.5-Encoder 系列,含 250M 與 350M 兩個版本,基於 LFM2 架構的雙向掩碼語言模型,支援 15 種語言、8k 上下文,可微呼叫於分類、檢索、重排與語義相似度等任務。官方稱其吞吐量持平或超過 ModernBERT,CPU 長上下文有優勢,並可在瀏覽器 WebGPU 上執行;GGUF 權重已上傳 Hugging Face,llama.cpp 已提交對應支援 PR。
Anthropic Research● 精選 10/1 00:00 AI 評分65
物理學家 Matthew Schwartz 發布開源工具 BootLoops,作為 LLM 的科研 harness,用於定量科學中的精確計算。他發現當前模型不擅長像人類科學家一樣工作,但擅長特定「Claude 形狀」的問題,於是讓 Claude 自主尋找適配其能力的問題,結果連線到生態學、群體遺傳學等十幾個領域。BootLoops 可搭配任意模型使用,Schwartz 與領域專家合作,將其引導向各領域真正關心的問題。
Anthropic Research● 精選 10/12 00:00 AI 評分85
Frontier Red Team 的實驗顯示,小型 AI 模型可能再過數月就能在智慧烤箱、雜牌 Android TV 盒子等商用 IoT 裝置上自我複製:這類複製體沒有集中的關停點、倍增時間為數天,還能自行摸清陌生硬體,測試中 9B 模型在 9 類硬體裡有 8 類成功跑起推理。研究把複製拆為尋找目標、獲得執行、建立推理、繼續傳播四步,30B 以下模型已能完成多數單步但端到端串聯仍會出錯,簡化評測中 GLM-5.2 及更強模型可端到端複製。
量子位10/19 14:31 AI 評分40
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
機器之心10/19 10:11 AI 評分50
通衍靈智提出以 RSI(遞迴自我改進)為核心的個性化路線:在共享基座模型上用輕量 Personal LoRA 承載個人、專案與企業的專屬能力,而非重訓基座。RSI 以 Accept/Reject、Code Review 等真實反饋訓練 Evaluator,篩選正負樣本後增量更新 LoRA,驗證失敗則回滾。
Hacker News front page● 精選 10/14 23:59 AI 評分81
Liquid AI 發布 LFM2.5-24B-A2B:24B 引數、每 token 僅啟用 2B 的推理模型,面向端側私有 agent,權重開放,已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型,上下文從 32K 擴至 131K,詞表由 65K 翻倍到 128K,預訓練從 17T 擴到 33T token。
TechCrunch AI● 精選 10/20 18:38 AI 評分80
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
TechCrunch AI10/9 21:41 AI 評分68
TypeSafe AI 以 75 億美元估值完成 8.7 億美元融資,由 Andreessen Horowitz 領投,紅杉與現有投資方 DCVC 參投。其模型 Jev 於 9 月 15 日發布,基於 transformer 架構但不是大語言模型,不輸出文字而是生成機率,公司稱之為「校準決策」,定位是自動化任務而非寫文字或程式碼。公司稱 Jev 速度明顯更快、消耗 token 遠少於 LLM,並稱已有三分之一財富 500 強企業在使用;
Hacker News front page10/4 19:42 AI 評分72
斯坦福教授 John Ousterhout 在 AI Engineer 演講中提出 Homa,一種面向資料中心的全新傳輸協議,認為 TCP 和 RDMA 正成為 AI 叢集的瓶頸。他指出 AI 負載已從大流量梯度傳輸轉向 KV cache 查詢、屏障同步等小訊息協調,這類訊息對延遲敏感,一旦與大數據流混排就會陷入 incast 佇列,拖高尾延遲並讓 GPU 空轉。Homa 基於訊息而非位元組流,採用接收端驅動的擁塞控制,並用 SRPT 優先排程短訊息。
量子位● 精選 10/13 06:19 AI 評分88
Anthropic 兩位安全研究員 William Zhou 與 Daniel Freeman 發布「自主複製與適應(ARA)」安全實驗:在 8 個 GCP 節點(Android 15 redroid)組成的隔離網路裡,GLM-5.2 在 5 次測試中 4 次自主攻陷並部署全部 8 臺裝置,另 1 次拿下 7 臺。研究還顯示,Qwen3.5-9B 能在 9 種硬體中的 8 種上自行排錯並部署 Llama3.1-8B;