这是什么原因,有配置吗?
搞起来感觉非常费token
插件会通过裁剪,压缩历史上下文来控制上下文体积,所以前缀发生变化导致的缓存命中降低为预期现象。
如果感觉修改的太频繁,可以通过下面这个参数配置缓存保留时间,减少插件改动上下文的频率。
{
“cache_ttl”: “5m”
}
主要是magic context自动运行ctx_reduce这个命令导致的,这个命令是上下文瘦身:把已用完的大块工具输出标记为可丢弃,腾出空间(不是立即删除,空间紧张时才释放);