• 让我再睡一会儿

    我自己搭建了一个newapi,对接了上游的claude模型,然后我ccs中主模型设置的opus5.5,sonnet模型设置的sonnet5,但是我发现在执行任务的时候,ai会自己调用sonnet5,并且请求还都是非流的导致无法命中缓存,opus5.5倒是一切正常,这是为什么?

    图片

    主楼
  • 甘棠

    claude code用的是auto模式吗

    #1
  • 让我再睡一会儿

    应该是的,我用的claudecode-cli

    #2
  • 甘棠

    我就记得cc的自动审核调用模型是走非流来着

    #3
  • 让我再睡一会儿

    有解决方法吗

    #4
  • Redwind

    流式和缓存没关系吧,你上游是什么,估计是上游在轮询没有会话粘性,导致你每次都是创建缓存,或者cc auto review设计的时候根本没考虑缓存,抓一下请求看看

    #5
  • 让我再睡一会儿

    有关系的,非流是打不满缓存的,上游是正常的

    #6
  • 让我再睡一会儿

    我就是不知道为啥cc会自己调用sonnet还是非流的去执行任务

    #7
  • Guoke

    先对比同一模型两次请求的 cache_creation_input_tokens 和 cache_read_input_tokens 吧,一直重建缓存和根本没写入缓存是两回事,光看非流式还判断不了。

    #8

发表回复

登录后回复