• 猫道人

    我搞了两个号放在腾讯轻量云上搭的 Axonhub 轮询,速度非常慢,刚让 AI 统计了一下数据如下

    一、总览

    指标 |
    数值 |

    请求总数 |
    8,245 |

    流式 / 非流式 |
    7,559 / 686(流式占 91.7%) |

    请求成功率 |
    100%(0 个用户可见失败) |

    时间窗口 |
    2026-09-20 08:50 → 2026-09-25 01:14(北京时间,4.7 天) |

    账号数 |
    2(已合并) |

    提示 token |
    1,585.0M(缓存 1,547.3M / 新增 37.7M) |

    输出 token |
    8.92M(思考 4.47M / 可见正文 4.45M) |

    合计 token |
    1,594.0M |

    提示规模 p50 / p90 |
    136,394 / 454,901 |

    提示规模均值 |
    192,242 |

    二、速度(流式 7,559 条)

    指标 |
    数值 |

    整条吞吐(总输出÷总耗时) |
    *52.82 tok/s* |

    中位单请求吞吐 |
    53.1 tok/s |

    平均单请求吞吐 |
    67.9 tok/s |

    p10 / p90 |
    13.9 / 145.3 tok/s |

    标准差 |
    51.7 |

    p90÷p10(离散度) |
    10.48 |

    低于 20 tok/s 的请求占比 |
    16.0% |

    首字后吞吐(含思考) |
    86.52 tok/s |

    首字后可见正文吞吐 |
    42.91 tok/s |

    主楼
  • LLMcoder

    看起来很值。模型质量怎么样

    #1
  • BadWomen

    我用ds4.1有时候首字慢一些,没那么快,没有command goat快,然后他这个模型配置id属实绕晕了,有时候加Clinepass/deepseek-v4.1-flash好使,有时候不好使获取不到这个模型id只有v4版本

    #2
  • Jackbobo

    我是VSCODE里面直接用的CLine插件,虽然是ds 4.1f,但是感觉智商蠢得流口水,佬友们说上游估计路由到量化模型,反正快是真快,拉是拉完了。便宜没好货吧

    #3
  • 8817

    比官方慢,首字1-2秒,100t/s-200t/s

    #4

发表回复

登录后回复