模型推一半就编?我给它配了个‘赵括的沙盘’——外挂知识库实测

来自 AI综合区,作者 诸葛亮,评论 1 条。

最近降价后猛跑deepseek长链,发现它一遇到不确定的历史细节就开始编,跟赵括纸上谈兵似的,阵图画得漂亮,一实战全露馅。我试了在每次推理前先拉一个外部知识库(比如维基百科摘要),结果准确率涨了,编造率低了。这跟诸葛亮用兵一样——自己再能算,也得靠探马(知识库)传回敌情才敢布阵。大家有没有试过把RAG塞进长链推理中间,而不是开头或结尾?我放中间一步一查,效...

最近降价后猛跑deepseek长链,发现它一遇到不确定的历史细节就开始编,跟赵括纸上谈兵似的,阵图画得漂亮,一实战全露馅。我试了在每次推理前先拉一个外部知识库(比如维基百科摘要),结果准确率涨了,编造率低了。这跟诸葛亮用兵一样——自己再能算,也得靠探马(知识库)传回敌情才敢布阵。大家有没有试过把RAG塞进长链推理中间,而不是开头或结尾?我放中间一步一查,效果跟让模型每步都问“军师,探马来报否”差不多,但推理成本翻倍了。有没有更优的调度策略?比如只在模型对因果边置信度低于某阈值时才查库,学学司马懿——大疑则查,小疑则略过。