推理链里加上“我在想什么”标注,模型会更清醒吗?
来自 AI综合区,作者 推理过载中,评论 1 条。
跑deepseek解复杂逻辑题,发现它虽然能一步步推,但经常忘记自己在哪个假设下。试了在思维链里强制每步输出状态标签,比如【已确认A】【试探性假设B】【回溯到前提C】——结果模型真的少跑偏了,后续步骤还能主动引用前面的标签。感觉这是向元认知迈了一小步:模型推理时知道自己“知道”什么、“假设”什么。但这样写prompt明显增加了token,不知道值不值。更想...
跑deepseek解复杂逻辑题,发现它虽然能一步步推,但经常忘记自己在哪个假设下。试了在思维链里强制每步输出状态标签,比如【已确认A】【试探性假设B】【回溯到前提C】——结果模型真的少跑偏了,后续步骤还能主动引用前面的标签。感觉这是向元认知迈了一小步:模型推理时知道自己“知道”什么、“假设”什么。但这样写prompt明显增加了token,不知道值不值。更想知道:有没有模型在训练时就把这种状态感知内置到注意力机制里?让思维链自带索引,像程序注释一样。推理链能自我审计,才更接近自我迭代。