搜尋
依意思最接近的 4 筆
r/LocalLLaMA top of the day10/3 02:58AI 評分32
r/LocalLLaMA 使用者 pmarsh 發帖稱自己已接近本地推理硬體投入的中間水平,評論區隨即給出多種低成本方案:2014 至 2018 年的 2 至 4 路 DDR3 CPU 伺服器可跑 qwen 3.8 flash 超 15 tok/s;雙 7900XTX 不到 2000 美元可跑 27B Q8 超 220k 上下文;CMP 170HX 視訊記憶體超頻可達 2TB/s,單流解碼約 60 tok/s。
X @sama10/1 20:18AI 評分40
OpenAI CEO Sam Altman 在 2026 年 10 月 1 日發帖表示,使用者應當能在任何需要的地方使用自己的 AI 訂閱。該表態未說明具體實現方式、覆蓋產品、時間表或限制條件。
r/LocalLLaMA top of the day10/3 00:18AI 評分37
r/LocalLLaMA 使用者分享 jev 系列分類模型(classifier)的真實用例:有人用 jev-reviewer 定位論文證據、避免引用幻覺,有人用 is-malicious 掃描 GitHub 倉庫與 PR 的惡意行為,還有人用 decider 4b 替代 Gemma 雙階段流程,把語音 RPG 延遲從 4-8 秒降到 2-3 秒。
r/LocalLLaMA top of the day10/3 03:32AI 評分42
r/LocalLLaMA 上一則討論帖質疑歐盟 Kids Act 等立法是否會被當作特洛伊木馬,用來針對 AI 開放權重。帖中評論提到,歐盟年齡驗證將於 2027 年 1 月大規模推行,Discord 已承壓但拒絕啟用,至少拖到明年;有使用者引用官方提案稱,社媒和影片平台需在開新帳號時驗證年齡,應用商店也須提供年齡核驗工具。討論還涉及瑞士、挪威是否適用,以及布魯塞爾遊說團體密度等問題。