• Chixin

    现在参数这么小的V4 flash性能都直逼4.8了,D老师一己之力证明了后训练的重要性。

    主楼
  • xiaohui233

    声明:本人从未在互联网上诋毁过深度求索,并没有称梁文锋为梁白开。本人实际上是深度求索一年老粉,经过长时间的思考,我发现Deepseek才是中国AI的希望,有时候做出决定很难,经过许多个日夜的思考,我决定加入Deepseek粉丝团。至于Kimi,GLM和Minimax,祝他们的开源模型一切顺利。本人从未诋毁过深度求索,也从未称呼梁总为牢梁,望周知!

    #1
  • Racky

    话说国内的是不是拿国外的模型蒸馏训练的?

    #2
  • wazou_pau

    是的,毕竟kimi用了几天的时间就把fable-5能力蒸馏了个七七八八

    (蒸馏只能解决冷启动问题,不能解决后续的RL训练)

    #3
  • randname

    为什么在这个论坛还有人能问出这种问题。 ^-^ 简单说,如果觉得是靠蒸馏就能做到,那为什么别人不行

    #4
  • 超大杯

    佬,都上 l 站了,可以多看一点帖子了解一下 ai 是什么

    这种话在外面会被各种妖魔鬼怪喷死的

    #5
  • 3achan

    不是,是直接路由到Fable5的,Github上有人分析过

    #6
  • Racky

    并不是说全部靠蒸馏,但是一定有在蒸馏A厂跟C厂的模型。当然他们也会在此之上做优化。而且这个问题怎么了吗,为什么不是人人都行,是因为不是人人能够烧的起蒸馏的钱

    #7
  • kailvin

    百度:这个…这个…这个…

    豆包:我闭源,我资源超多,我没蒸馏所以我是豆包

    #8
  • Alex_Johnson

    都来L站了,怎么到现在还在问这种问题,能不能问之前先在站内检索学习一下?

    #9
  • Teddy

    刚刚弹了一下 CF 的验证,然后这个贴子里的回复怎么感觉变少了

    #10
  • ybseo2

    “一定有在蒸馏A厂跟C厂的模型”,所以一开始佬不是在问问题,而是在阴阳国模蒸馏吗

    #11
  • 期待。

    再见了A÷,再见了奥特曼,再见了老马,再见了GLM,再见了Kimi,再见了Qwen。

    感谢你们一路的陪伴与解答。现在,我只想轻轻说一句:

    你好,DeepSeek!

    #12
  • haha123

    回复前面说蒸馏的佬:

    如果蒸馏就能变牛逼, 为什么其他国家, 其他公司, 没有搞出来

    #13
  • 水水水元

    图片

    该举d旗了

    #14
  • 白日梦蓝

    又到了经典的比我强的没我便宜、比我便宜的没我强环节了

    #15

发表回复

登录后回复