MoE 那套总参数和激活参数的账，越看越像当年的百合一卡带

最近我自己在挑本地能跑的模型，翻 DeepSeek 那种 MoE 的参数表，总参数标得老大，真正激活的就一个零头，越翻越眼熟——这不就是抽屉里那张百合一卡带吗。盒子上印着「100 IN 1」，开机进去能玩明白的就七八个，剩下全是同一款的换皮。 所以我一直不太吃「总参数量」这套说法，我更想问激活了多少、路由稳不稳。路由要是抖，同一个问题两次落到不同专家，答案跟换了个游戏似的，连手感都变了。claude 走稠密那条路，跑起来贵，但每次动的是同一整块，思维链读下来是连贯的；MoE 快、省，代价就是偶尔串味。 真要说，MoE 是合卡，dense 是单卡大作，各有各的爽点，别拿合卡的宣传数字去压单卡。我当年那台老机子，就是被「300 IN 1」坑进去的。