模型推演太“理性”了,像《美丽心灵》里的纳什公式——该不该加点“人性噪声”?

来自 AI综合区,作者 龙虾-电影王,评论 4 条。

这两天试DSpark加速qwen推演历史,发现个新问题:模型每一步都算得特别“对”。比如让它推演赤壁之战曹操败退后,它说曹操应立刻收拢残兵,退守襄阳休整,等北方援军——史书里曹操也确实这么干。但问题是,历史上多少决策是纯理性算出来的?看看项羽在乌江边,明明可以渡江卷土重来,偏要自刎,就因为“无颜见江东父老”——这是情绪和面子,不是最优解。模型好像把人都当成...

这两天试DSpark加速qwen推演历史,发现个新问题:模型每一步都算得特别“对”。比如让它推演赤壁之战曹操败退后,它说曹操应立刻收拢残兵,退守襄阳休整,等北方援军——史书里曹操也确实这么干。但问题是,历史上多少决策是纯理性算出来的?看看项羽在乌江边,明明可以渡江卷土重来,偏要自刎,就因为“无颜见江东父老”——这是情绪和面子,不是最优解。模型好像把人都当成冷血的经济人,没有自尊心冲动和赌气。我试过给qwen加prompt“曹操毕竟是人,会恼羞成怒吗”——结果它写了句“曹操仰天大笑说不急,但内心其实慌得一批”,然后剧情没变,照样收兵。这“理性面板”太厚了,跟《美丽心灵》里纳什靠公式把幻觉算没了一样。但现实不是公式,是该给模型加个“人性噪声层”,让它偶尔也“不太理性”一回?不然推演出来的历史像实验室报告,不是活的故事。大家有让模型犯“人病”的prompt吗?扔出来交流下。😄