关于mistral的DS缓存低的问题

🌐 链接: https://linux.do/t/topic/3146203
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-11-09 19:57:43
LINUX DO
关于mistral的DS缓存低的问题
在magpie中使用，已经加了prompt_cache_key和x-affinity 缓存率只有80%左右 按80%缓存率算，165刀大概能用DSV4.1F1017 24亿左右（各位佬友有什么办法提高cache rate）