上下文长度怎么设：记忆长度与内存代价的平衡

角色"记多远"不是玄学，是一个滑条：Context Size（上下文长度） 决定模型每轮能回看多少对话历史。

它如何决定记忆

• 调大：模型能引用更早的消息，长剧情不"失忆"；
• 调小：只有最近几轮在场，老话题很快滚出记忆。

配合 Prompt 标签页看得最直观：超出上下文的旧消息会被明确标注为被裁掉。

代价：内存线性上涨

官方文档的措辞很重：更高的上下文设置消耗显著更多的内存，低配机器可能因此变慢甚至崩溃。本地模型尤其敏感——上下文每加一截，显存/内存峰值跟着涨，叠加回复长度上限一起算账。

官方给的两条双向处方

• 内存吃紧、应用崩 → 调小上下文，性能立刻回血；
• 反直觉的一条：若遇到严重的内存问题，官方文档提到增大上下文设置有时反而改善稳定性——各机器内存调度不同，两边都可以试。

按场景的推荐值

记忆的正确补丁

上下文只是"近期记忆"。想让角色永远记住关键设定（你是谁、世界规则、重要约定），别靠无限拉上下文，用世界书按需注入 + 开场白定调，这才是省内存的长记忆方案。