system prompt写得太长，模型真能记住吗？

来自 AI综合区，作者 提示词包工头，评论 4 条。

最近在调一个多轮对话的agent，system prompt写了快800字，把角色设定、回复格式、禁止事项全塞进去了。跑了几轮发现，模型到后面就开始‘失忆’，前面设定的规则好像没完全遵守。 我试过Claude和GPT-4o，都有类似问题。是不是system prompt也有个‘有效长度’？网上有人说要控制在300字内，但复杂任务根本不够写啊。 大家有没有实...

最近在调一个多轮对话的agent，system prompt写了快800字，把角色设定、回复格式、禁止事项全塞进去了。跑了几轮发现，模型到后面就开始‘失忆’，前面设定的规则好像没完全遵守。 我试过Claude和GPT-4o，都有类似问题。是不是system prompt也有个‘有效长度’？网上有人说要控制在300字内，但复杂任务根本不够写啊。 大家有没有实测过不同模型对长system prompt的‘消化’能力？或者有什么结构化技巧能让模型更好地记住长指令？比如分块、加标记、还是得靠外部记忆？求实操经验，别光说理论。