AISpot

搜尋

找到 7 筆

機器之心● 精選AI 評分81

斯坦福與 Together AI 提出 NCM,文字生成最高提速 31 倍

斯坦福大學與 Together AI 提出 Next-Concept Modeling(NCM),借鑑 NeurIPS 2024 最佳論文 VAR 的下一尺度預測,讓模型先並行寫出概念大綱、再逐層填充細節,形成不同於自迴歸與擴散的第三種文字生成範式。單塊 H100 上,XSum 摘要在 ROUGE-L 相當的情況下速度約為強擴散基線的 31 倍,LM1B 無條件生成約 21 倍,OpenWebText 約 10 倍,訓練 token 用量分別少 4.9 倍和 4 倍。

Hugging Face blogAI 評分62

Hugging Face 上線 Trainium 模型相容性查詢 Space

Hugging Face 推出 torch-neuronx 模型支援查詢 Space,可查 Hub 上的熱門模型能否不經修改在 AWS Trainium 上執行。每條結果給出模型分片佔用的 Trainium 核數、含編譯的實際耗時和峰值視訊記憶體,並提供測試所用的 run.py,以及從 NEFF 快取跳過編譯的命令。目前僅覆蓋 Transformers 的文字生成與圖文模型,且只測試能放進 4 張 trn2(16 核)的模型,PASS 不代表吞吐或長文字生成表現。

llama.cpp releasesAI 評分58

llama.cpp 新增 MiniCPM-OCR-Jev 支援

llama.cpp 建置 b11928 加入 MiniCPM-OCR-Jev,這是一個只打分、不生成文字的 OCR 模型。它以 Qwen3.5-VL 為骨幹,在最後一個 token 上讀取 value head,為影像與其渲染文字的匹配度打分,通過 POST /v1/systemone 的 openbmb-minicpm-ocr-jev 決策型別提供服務。checkpoint 沒有 LM head,因此文字生成請求會被拒絕;

Hacker News front pageAI 評分60

Google 推出實驗性遊戲平台 Playground,文字提示即可生成遊戲

Google 發布實驗性遊戲平台 Playground,使用者無需程式設計經驗,用簡單文字提示即可在幾分鐘內做出自訂遊戲。平台提供 Trivia、Tower Defense、Racing 等熱門型別,也可從零開始,採用對話式介面;Discover 板塊展示他人作品,涵蓋平台跳躍、問答、街機射擊、文字解謎與體育等型別。頁面提示訪問可能需要訂閱,僅在部分國家開放,且限 18 歲以上使用者。

X @Alibaba_Qwen● 精選AI 評分79

阿里開源 Qwen-Image-2.1-Turbo:8 步去噪出圖與編輯

阿里發布 Qwen-Image-2.1-Turbo,這是基於 Qwen-Image-2.1 的加速 checkpoint,只需 8 步去噪即可生成和編輯影像,權重已在 ModelScope 與 Hugging Face 開放。它沿用同一 7B 視覺生成架構,官方稱步數減少不犧牲品質,仍可從文字生成 2K 影像,並支援用自然語言繼續編輯,例如新增配飾或更換場景。Diffusers 中載入 QwenImage21Pipeline 即可使用推薦的 8 步取樣;

Hacker News front pageAI 評分72

Raschka 發布從零建置推理模型影片課,共 8 集 11 小時

Sebastian Raschka 發布從零建置推理模型的影片課程,共 8 集、總時長超過 11 小時。課程以小型預訓練 Qwen3 模型為起點,用 Python 和 PyTorch 親手實現評估、推理時擴充套件、強化學習與蒸餾,可配合其《Build a Reasoning Model (From Scratch)》一書按章節同步練習。前置要求是熟悉 Python 與 PyTorch;早期文字生成與評測範例在 CPU 上即可執行,後續訓練實驗建議使用 GPU。