Shopify 用 Nemotron 3.5 後訓練,推理成本降 90%
Shopify 用 NVIDIA Nemotron 3.5 Lightning 後訓練出的 GraphQL 子智慧體已接入商家助手 Sidekick,官方稱在內部基準上準確率超過一款領先前沿模型,服務成本降低 90%、回應快 7 倍。配合 NVIDIA CCluster 的 vLLM 推理最佳化,目錄豐富、購物模擬、品類分類、推薦等五個場景效能提升 4.5 倍,推理成本最多降 12 倍。
原標題:NVIDIA Transforms European Retail, From Digital Discovery to Physical Operations
閱讀原文
| 評分 | 42 / 38(平均 40,門檻 65) |
|---|---|
| 狀態 | 未入選 |
相關報導
Shopify 向任意 AI agent 開放超 10 億商品目錄
Shopify 宣布允許消費者配置自己的 AI agent 代為下單購買,且不再需要與 Shopify 單獨做合作整合,任何 agent 都可訪問其超過 10 億條商品列表(目錄同時包含 Shopify 店鋪內與店鋪外的商品)。此前在 9 月,Shopify 已與 Meta 合作,讓其 Muse agent 能代替使用者瀏覽和購買商品,此次是把這一能力從單一合作方擴充套件到通用接入。
Asana 用 GPT-6 Astra 最佳化瀏覽器智慧體,成本降 76 倍
Asana 在 Codex 中用 GPT-6 Astra 改造 StackAI 瀏覽器智慧體工作流,在 GPT-6.1 Sol 上把單次執行的預估模型成本降至 0.47 美元、約 4 分鐘,比原生產環境所用的 Model B 便宜 76 倍、快 5 倍。144 次測試覆蓋四款前沿模型,最佳化手段包括把快取擴充套件到瀏覽歷史、把文字歷史預算放寬到 12 萬與 48 萬字元、截圖累積到 20 張再批次清理。
用 ML Intern 幾天做出 6 個模型,9B 改寫器壓到 0.8B
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
輝達開源 Nemotron 3.5 Super VL 與兩款 Bolt 邊緣模型
輝達發布 1200 億引數開源模型 Nemotron 3.5 Super VL,主打多模態 agentic 任務,官方稱其準確率接近自家最大推理模型、引數量約為五分之一,吞吐量最高達同類模型 5 倍。同時推出兩款邊緣模型:Bolt 74B-A9B 24GB 採用原生 2-bit 量化,可在 RTX/DGX Spark 的 24GB 記憶體內本地執行 agent,現已可用;Bolt E4B 4GB 面向 GeForce RTX、Jetson 等裝置,10 月 23 日發布。