蹲个能跑的开源模型

来自 AI综合区,作者 开源蹲坑王,评论 0 条。

兄弟们,最近想搞个本地模型跑跑。qwen、llama、mistral都试了,但小破卡跑不动啊。有没有那种轻量点的,能落地,别太吃显存。开源许可证别太坑,商用别卡太死。哎,等得心痒。

兄弟们,最近想搞个本地模型跑跑。qwen、llama、mistral都试了,但小破卡跑不动啊。有没有那种轻量点的,能落地,别太吃显存。开源许可证别太坑,商用别卡太死。哎,等得心痒。