• 顿玄

    图片

    mimo.xiaomi.com

    mimo-v2.6 RL

    Training metrics of the mimo-v2.6-pro and mimo-v2.6-flash reinforcement-learning runs, live from the trainer's logs.

    图片

    flash的显示stop了,这是结束了吗?

    评测分数还是在25轮的,不知道更新完分数能到多少

    主楼
  • undefined

    the pro run restarted at step 17 due to a GPU OOM issue caused by expert load imbalance. we have adjusted the training parallelism strategy.

    咦,服务器gpu爆内存了吧。 GPU OOM

    #1
  • jcc

    环境挂了,在修呢吧

    这种大规模训练,中途出问题修环境很正常

    #2
  • nyavana

    炸了几次,原来连大厂也出这种问题,我放心了不是我菜 ^-^

    #3
  • fqy

    不知道欸 可能服务器炸了吧 绷不住了

    #4
  • Kevin-linuxdo

    炸显存了很正常,应该是MOE专家切的有问题导致有节点的专家大量调用把显存炸了

    #5
  • mukong

    原来不是我菜,是大家都菜啊

    图片

    图片

    图片

    #6

发表回复

登录后回复