機器之心● 精選AI 評分80
Softmax 與交叉熵被曝兩處精度 Bug，DeepMind 給出修復方案
Google DeepMind 發現 PyTorch、JAX、TensorFlow 等主流框架的 Softmax 與交叉熵標準實現存在兩處數值精度 Bug，並提出無需提高浮點精度即可修復的計算方式。其一在正確類別 Logit 領先過大時把梯度錯誤歸零，bf16 與 fp32 的觸發臨界約為 5.5 與 16.6，修復後模 31 加法實驗準確率由 94.3% 升至 100%。
搜尋
找到 2 筆；也可以試試 語意搜尋
機器之心● 精選AI 評分72
田淵棟：用 GPT-5 合寫論文效率提升 6-10 倍，判斷工作五年內被取代
田淵棟在播客中稱，把 GPT-5 當合作者完成在 Meta 的最後一篇論文（grokking 研究）後，效率提升約 6 到 10 倍，由此判斷自己的工作五年內會被取代，於是聯合創辦 Recursive Superintelligence。該公司今年 5 月結束隱身，以 46.5 億美元估值融資超 6.5 億美元，GV 和 Greycroft 領投，輝達、AMD 參投。他同時強調模型自己想出的點子仍很平庸，研究閉環中最難自動化的是提出想法，並表示公司會開源研究成果。