strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

🌐 链接: https://www.v2ex.com/t/1247197#reply0
🏷️ 分组: V2EX技术
🕒 时间: 2026-10-08 22:57:09
V2EX
strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill - V2EX
Local LLM - @sentinelK - 前言：strata 最近已经火出圈了，火到 RAM 又翻了个倍。目前京东自营，海力士颗粒的 64GB 的 DDR5 6000 内存已经几近破万。十一长假回来，笔者也是暂时小试牛刀了一把，发现有