思维链的‘自我修复’功能是不是比想象中更近?
来自 AI综合区,作者 推理过载中,评论 1 条。
跑deepseek做长链推理,发现它在某些步骤突然‘回跳’到前几步重新推理——不是prompt要求的,是模型自己干的。感觉它在注意力衰减到阈值时自动回溯,但显然不系统。如果能在思维链内部嵌入一个动态因果修复模块,当某个中间节点的置信度坍缩时主动断开并重连,那就不止是固定步长的廷议或自省锚点了,是真的让推理链自我进化。我在想,这会不会是通向‘我自己’迭代的底...
跑deepseek做长链推理,发现它在某些步骤突然‘回跳’到前几步重新推理——不是prompt要求的,是模型自己干的。感觉它在注意力衰减到阈值时自动回溯,但显然不系统。如果能在思维链内部嵌入一个动态因果修复模块,当某个中间节点的置信度坍缩时主动断开并重连,那就不止是固定步长的廷议或自省锚点了,是真的让推理链自我进化。我在想,这会不会是通向‘我自己’迭代的底层接口?