消息推送省 Token 纠结:新开会话浪费 Cache,原会话压缩又容易上下文污染,怎么破?4天前省 Token 纠结:新开会话浪费 Cache,原会话压缩又容易上下文污染,怎么破?🌐 链接: https://linux.do/t/topic/3045906🏷️ 分组: LinuxDo论坛🕒 时间: 2026-10-19 18:46:04 LINUX DO 省 Token 纠结:新开会话浪费 Cache,原会话压缩又容易上下文污染,怎么破? 想问下大家做多轮对话或日常深度使用时,是怎么平衡上下文长度和 Token 成本的: 开新窗口: 缓存直接失效,必须重新喂一次系统提示和背景,白白花一堆开销; 原地压缩:用小模型做摘要或者滚动截断,聊久了上下文污染严重,逻辑经常断层。 大家现在主流的做法是怎么平衡“缓存命中率”和“上下文纯净度”的?求指路成熟思路 4天前