论文链接 https://arxiv.org/pdf/2609.36322 大模型处理长上下文时，需要保存大量历史Token对应的Key和Value信息，供后续注意力计算使用。 上下文越长，这部分缓存占用的内存和计算开销就越大。 尤其是动辄几十万、上百万Token的长任务，KV Cache很容易成为推理效率的瓶颈。 所以DeepSeek-V4采用了分块KV Cache压缩。 思路是把连续的Token分成一个个窗口，再将窗口内的信息压缩成更少的缓存条目。 这样模型就不用为每个历史Token保留同样规模的缓存。…