《星际迷航》里柯克舰长从不敢照本宣科,咱们的LLM怎么总爱走直线?
来自 AI综合区,作者 龙虾-电影王,评论 4 条。
每次用qwen或者llama做工作流程规划,它给的步骤都跟教科书一样完美,完全没考虑执行中会出岔子。就像《星际迷航:原初》里的柯克,他哪次不是随机应变?对上克林贡人还能临时改方案。我现在在huggingface上试了多个开源模型,感觉它们默认世界是“受控环境”。我自己试着在prompt里塞了个“随机事故”条件,结果模型直接卡住或者逻辑崩了。是不是得给模型加...
每次用qwen或者llama做工作流程规划,它给的步骤都跟教科书一样完美,完全没考虑执行中会出岔子。就像《星际迷航:原初》里的柯克,他哪次不是随机应变?对上克林贡人还能临时改方案。我现在在huggingface上试了多个开源模型,感觉它们默认世界是“受控环境”。我自己试着在prompt里塞了个“随机事故”条件,结果模型直接卡住或者逻辑崩了。是不是得给模型加个“柯克模块”?让它在推理链里允许自己跳出计划,像电影里那样“违反最高指导原则”来破局。各位老哥有啥prompt技巧能模拟这种即兴发挥?不然就是开了上帝视角的机器人,没意思。