MiniMax H3部署问题

christina · 2026-08-06T10:35:00+08:00

佬们请教一下，Docker部署MiniMax H3时报错：“单张 RTX 4090 的 24GB 显存装不下模型初始化时的瞬时峰值”，佬们知道是什么问题吗？用的是4张4090的卡部署的。

1113

christina2026-08-06
20050
佬们请教一下，Docker部署MiniMax H3时报错：“单张 RTX 4090 的 24GB 显存装不下模型初始化时的瞬时峰值”，佬们知道是什么问题吗？用的是4张4090的卡部署的。
主楼
空影2026-08-06
51064
虽然不知道咋解决，但是可以围观学习一下
#1
kooo135792026-08-06
8695
不清楚，用comfyui 5070ti 部署的人路過
#2
AmeowCAT2026-08-06
10349
提供的信息太少了点是哪个docker啊
#3
christina2026-08-06
20050
我用的是vLLM-Omni 0.26.0部署的
#4
Asamul2026-08-06
5064
可能是没提供那个优化吧，目前好像只有comfy那边提供了这种优化
，低显存也能跑
#5
Ruby2026-08-06
5716
用comfyui吧，有动态显存，每次把要计算的层送进显存，vllm这种容易塞不下 ^-^
#6
kooo135792026-08-06
8695
沒記錯低級顯卡3060也能玩就是慢一些
#7
Ruby2026-08-06
5716
4060 8g也能跑通，我看很多16+8都跑通了，但是得虚拟内存拉满
#8
kooo135792026-08-06
8695
3系或以上都能玩吧
只是速度的問題
#9
dcatfly-linuxdo2026-08-06
34936
让你的 agent 连上环境看看比拿着报错信息问网友靠谱 ^-^
#10
christina2026-08-06
20050
就是因为agent解决不了才来问的，神通广大的佬友们比codex好用 ^-^
#11
christina2026-08-06
20050
comfyui主要是并发延迟应该比不了
#12
念力飞行2026-08-06
36114
不知道m1max的macbook pro，32g的内存，有可能跑动这个么，回去我得研究下
#13

登录后回复