- dtfour092026-09-29
速度起飞了，之前qwen3.8 q8 只有20多现在直线到了50+ 了。
开mtp到70+了。
但是丢到 + 5070ti 和 另外一张x4的2080ti 速度就下去了。
主楼 - 九月-nodeseek2026-09-29
2个2080ti听说很能打
- Arson39972026-09-29
可以
- dtfour092026-09-29
--ctx-size 131072
--parallel 1
--device CUDA0,CUDA1
--split-mode tensor
--gpu-layers auto
--batch-size 1024
--ubatch-size 256
--flash-attn on
--cache-type-k f16
--cache-type-v f16
--reasoning on
--spec-type draft-mtp
--spec-draft-n-max 3
--spec-draft-type-k f16
--spec-draft-type-v f16
有佬看看哪些参数可以优化的吗
- wzx-nodeseek2026-09-29
魔改22g显存吗？两个就是44g
- dtfour092026-09-29
是的