冷静下来想了一下，Codex 和 Work 的永久缓存，我觉得大概率是额度上的永久。机器上不可能真给每个人永久存着。 Prompt Cache 存的不是你的原文，是模型算好的 KV。模型读上下文时，每个 token 都要算出一组 Key 和 Value，后面的 token 靠它们回看前文。下次请求开头完全一样，就直接拿这批 KV 来用，省掉把整段上下文重新算一遍的过程，也就是 prefill。 每个 token 的 KV 都依赖它前面所有的 token，所以前缀必须一个字都不差，...

🌐 链接: https://x.com/ScarletKc/status/2112715729418207658
🏷️ 分组: X｜为你推荐
🕒 时间: 2026-10-21 09:20:56
X (formerly Twitter)
KC (@ScarletKc) on X
冷静下来想了一下，Codex 和 Work 的永久缓存，我觉得大概率是额度上的永久。机器上不可能真给每个人永久存着。

Prompt Cache 存的不是你的原文，是模型算好的 KV。模型读上下文时，每个 token 都要算出一组 Key 和 Value，后面的 token 靠它们回看前文。下次请求开头完全一样，就直接拿这批 KV 来用，省掉把整段上下文重新算一遍的过程，也就是 prefi…