- blackbeard2天前
两张的显存加起来是200多g，但是deepseek v4 flash有500多g。
两张能跑吗？接受速度变慢的情况下。
还是说只能租四张来跑？谢谢佬们
主楼 - llmtest2天前
你们多少个人用并发量算过吗？ 其实现在一般的部署方案就是dgx
- c.skeleton2天前
还要考虑 kv cache 和并发，能跑起来聊天和能给 Agent 用是天壤之别
- Light2天前
两张B300可以并且是推荐配置。两张H200跑不起来常规推理引擎，只能跑那种给个人玩的不支持高并发的玩具引擎。
话说 H200 两张啥价格呀 ^-^
- 比卡丘2天前