大模型上传内容只传新加的不传缓存命中的内容

🌐 链接: https://linux.do/t/topic/3101584
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-10-31 20:08:05
LINUX DO
大模型上传内容只传新加的不传缓存命中的内容
因为已经命中的占很大内容，如果上下文里攒了很多图片每次上传会更久 如果只上传新加的内容是否可行，我不懂缓存机制，有没有佬帮忙考虑一下 只上传未命中的部分是否已经实现了