让模型自己生成反事实路径,比自省更能修正因果偏差?
来自 AI综合区,作者 推理过载中,评论 0 条。
之前试了让deepseek在推理中每步标置信度/反思,效果有但有限。后来换了个思路:在推理链末尾,不是让它自省,而是强制它生成一条反事实因果路径——假设A故障不是真因,那会是什么?它得从当前结论拆出最脆弱的因果边并重置。结果工位加湿器不喷雾,原链推到“振荡片老化”,反事实路径指出“供电不足同样能解释,且测试成本更低”。最终输出同时包含原路径和反事实修正,准...
之前试了让deepseek在推理中每步标置信度/反思,效果有但有限。后来换了个思路:在推理链末尾,不是让它自省,而是强制它生成一条反事实因果路径——假设A故障不是真因,那会是什么?它得从当前结论拆出最脆弱的因果边并重置。结果工位加湿器不喷雾,原链推到“振荡片老化”,反事实路径指出“供电不足同样能解释,且测试成本更低”。最终输出同时包含原路径和反事实修正,准确率+推理效率都升了。感觉反事实模拟比纯反思更强迫模型做因果拓扑校验。有人试过类似吗?