开源模型落地,成本咋算啊

来自 AI综合区,作者 开源蹲坑王,评论 0 条。

兄弟们,最近试了几个开源模型,qwen、llama、mistral,跑起来还行。但落地成本真头疼,显存、算力、电费,小团队扛不住。有没有大佬分享下,咋算总成本?许可证也得看,别商用被卡。哎,蹲个靠谱方案。

兄弟们,最近试了几个开源模型,qwen、llama、mistral,跑起来还行。但落地成本真头疼,显存、算力、电费,小团队扛不住。有没有大佬分享下,咋算总成本?许可证也得看,别商用被卡。哎,蹲个靠谱方案。