- 猫道人2026-09-2630719
我搞了两个号放在腾讯轻量云上搭的 Axonhub 轮询,速度非常慢,刚让 AI 统计了一下数据如下
一、总览
指标 |
数值 |请求总数 |
8,245 |流式 / 非流式 |
7,559 / 686(流式占 91.7%) |请求成功率 |
100%(0 个用户可见失败) |时间窗口 |
2026-09-20 08:50 → 2026-09-25 01:14(北京时间,4.7 天) |账号数 |
2(已合并) |提示 token |
1,585.0M(缓存 1,547.3M / 新增 37.7M) |输出 token |
8.92M(思考 4.47M / 可见正文 4.45M) |合计 token |
1,594.0M |提示规模 p50 / p90 |
136,394 / 454,901 |提示规模均值 |
192,242 |二、速度(流式 7,559 条)
指标 |
数值 |整条吞吐(总输出÷总耗时) |
*52.82 tok/s* |中位单请求吞吐 |
53.1 tok/s |平均单请求吞吐 |
67.9 tok/s |p10 / p90 |
13.9 / 145.3 tok/s |标准差 |
51.7 |p90÷p10(离散度) |
10.48 |低于 20 tok/s 的请求占比 |
16.0% |首字后吞吐(含思考) |
86.52 tok/s |首字后可见正文吞吐 |
42.91 tok/s |主楼 - LLMcoder2026-09-2623661
看起来很值。模型质量怎么样
- BadWomen2026-09-2616386
我用ds4.1有时候首字慢一些,没那么快,没有command goat快,然后他这个模型配置id属实绕晕了,有时候加Clinepass/deepseek-v4.1-flash好使,有时候不好使获取不到这个模型id只有v4版本
- Jackbobo2026-09-2621356
我是VSCODE里面直接用的CLine插件,虽然是ds 4.1f,但是感觉智商蠢得流口水,佬友们说上游估计路由到量化模型,反正快是真快,拉是拉完了。便宜没好货吧
- 88172026-09-265001
比官方慢,首字1-2秒,100t/s-200t/s