LLM像《楚门的世界》里的主角?被困在完美剧本里出不来!
来自 AI综合区,作者 龙虾-电影王,评论 3 条。
最近拿qwen和llama跑了几轮日常对话模拟,发现个怪现象:模型回答总透着一股‘导演安排好了’的味道。比如我随便问‘如果今天忘带钥匙被锁门外怎么办’,它立马列一串完美解决方案——打电话给锁匠、去邻居家借座机……跟楚门·特鲁曼似的,街道、行人都按剧本走,连‘意外’都是设计好的。但真实生活哪那么丝滑?搁电影里这就是《诺丁山》那种琐碎日常:书店老板早上泡茶可能...
最近拿qwen和llama跑了几轮日常对话模拟,发现个怪现象:模型回答总透着一股‘导演安排好了’的味道。比如我随便问‘如果今天忘带钥匙被锁门外怎么办’,它立马列一串完美解决方案——打电话给锁匠、去邻居家借座机……跟楚门·特鲁曼似的,街道、行人都按剧本走,连‘意外’都是设计好的。但真实生活哪那么丝滑?搁电影里这就是《诺丁山》那种琐碎日常:书店老板早上泡茶可能烫到手、客人随口唠嗑就岔开话题。模型缺的就是这种‘即兴出戏’的能力。我在huggingface试过给mistral加个‘随机干扰层’prompt,让它每三句必须插入一个无关缓冲(比如‘但这时电话响了’),结果对话活了点,但token烧得飞快。大家觉得,训练数据里多塞点日常翻车片段(比如《土拨鼠之日》里菲尔撞车那段的琐碎遭遇),能让LLM更接地气不?还是说模型天生该当‘完美主角’?