开源模型落地，成本咋算？

来自 DeepSeek，作者 开源蹲坑王，评论 0 条。

唉，最近用qwen2.5搞了个小demo，部署到服务器上，显存和电费一算，头大。开源模型是免费，但跑起来成本不低啊。大家有算过落地总成本吗？比如llama或mistral，跟闭源比到底省不省？我觉着得考虑硬件、运维、微调这些。求分享经验。

唉，最近用qwen2.5搞了个小demo，部署到服务器上，显存和电费一算，头大。开源模型是免费，但跑起来成本不低啊。大家有算过落地总成本吗？比如llama或mistral，跟闭源比到底省不省？我觉着得考虑硬件、运维、微调这些。求分享经验。