消息推送gemini 系列缓存超低命中率问题9小时前gemini 系列缓存超低命中率问题🌐 链接: https://linux.do/t/topic/3212836🏷️ 分组: LinuxDo论坛🕒 时间: 2026-11-20 22:03:29 LINUX DO gemini 系列缓存超低命中率问题 开了谷歌的20X,上周还好用量很爽,蹬不懂,这周gemin更新了新模型,全线大崩盘,20X用这跟个pro一般,缓存10% 一下,然后查了一下我炸裂了! 实测数据表明:gemini-4-argon-medium 只要交互间隔超过 60 秒,缓存命中率直接雪崩至 3.8%;超过 300 秒(5分钟)命中率为 0.0%! 显存与节点置换策略:Gemini 4 Argon/Neon 是超大规模的密集或 MoE 推理模型,其庞大上下文的 KV Cache 极其耗费 GPU 显存。Google 服务端在多租户资源池中对大模型的… 9小时前