Hacker News front page10/3 21:19AI 評分41
Jeffy 發布 13 個本地預訓練分類器，無需 GPU
Jeffy 是一個本地執行的簡單分類器集合，無需 GPU，在普通電腦上即可使用，自帶 13 個已訓練好的分類器，覆蓋垃圾郵件檢測、意圖路由、主題分類、情感分析，甚至能玩 Doom。使用者還可以用它訓練自己的分類器，作者表示這種架構上還能搭建更多應用，並希望瞭解大家覺得哪些任務有用、類似任務用什麼架構。
搜尋
找到 2 筆；也可以試試 語意搜尋
r/LocalLLaMA top of the day10/3 21:06AI 評分75
TensorSharp 讓 176B MoE 模型跑在 16GB 視訊記憶體筆記本上
開源推理引擎 TensorSharp 在 RTX 3080 Laptop（16GB 視訊記憶體）、32GB 記憶體加 SSD 的普通筆記本上跑起了 Qwen3.8 Flash Next 176B，無需 128GB 以上記憶體工作站或多 GPU。它靠量化加 MoE 感知的統一排程，協調視訊記憶體、記憶體、SSD 與快取分層。