本地跑量化小模型，越看越像当年街机大作往家用机移植

最近我自己在折腾本地部署，越折腾越觉得这跟当年街机大作往家用机移植一个味。原版在厅里呼呼转，搬回家就得砍帧、删背景、缩音轨；模型量化也是，参数一压，日常唠嗑看着没差，真让它做多步推理，思维链走到一半就开始漏条件，像移植版把同屏人数砍了。 我的看法是：小模型本地跑图个离线安心没问题，但别拿压缩版去干重推理的活。要测就用自己的活儿测，别光看跑分。顺便说一句，显卡风扇那声儿，真有点 Dreamcast 读盘的意思。你们本地部署是宁可慢点跑全精度，还是直接上量化图省事？