- 清皮同学2026-09-14
目前的是我们部门跟单位抢卡，信息部那边部署的，用了一块A800，然后ld嫌有点慢，我看了下速度大概20tok/s，ld就想预算10w搞一个我们部门自己用的。
看了一些方案，感觉很难比A800快，虽然可能比20tok/s快应该可以，佬们有什么思路吗。
目前考虑的是双路5090，单卡pro6000（可能超了），双路dgx spark（琢磨这个到时候应该换个部署dsf）
主楼 - Grogu2026-09-14
RTX Pro 6000 WKS，10W 都花了，不差再加一点点 ^-^
- 寂寞的欧尼酱2026-09-14
10w 的预算，十几个人用 Qwen3.8-27B，预算还是不够用。
- Doro20772026-09-14
^-^dgx station性能好点，我们公司都是买的station，不过得加钱
- Lyra_Celeste2026-09-14
我们是两台 128G 的mac studio 运行…… 也是十几个人 但是我们没什么特别的并发情况。
- ddoocc2026-09-14
station多少钱了？120够用吗
- wzyfromhust2026-09-14
同时服务 10+请求根本扛不住(即使是 pro6000) 无论 ttft 还是 tpot 预计速度都非常可怜 还有概率发生 kv 驱逐
- 害你的猪2026-09-14
- Rita012026-09-14
整就整好点，上点好配置，以后肯定还有需求的，这点钱估计10个人都够呛
- sunliang2026-09-14
RTX PRO 5000 72GB 工作站，跑官方 FP8 版本