我的理解是，会话很长，不等于 cache 也很长。一个很久的会话，每次压缩都可以把之前的 cache 清掉，这样，一个会话最大的 cache 不会超过上下文窗口的大小（ codex 默认是 500k ）。再配合分层缓存，也并不是不可接受。最后，即使很久之前的数据系统清掉了，你使用的时候，给你算一下但是不计费，其实从用户层面也可以认为是永久缓存