• iwyxdxl

    先说我的猜测:Deepseek加班加昏了头,配置参数没改对,直接沿用了flash的参数

    估计各位佬友这两天都被DeepSeek各种操作搞蒙了:

    - 8 月 12 日深夜,DeepSeek 突然宣布 V4 Pro 0813 正式版 发布

    - 但随后实测发现,性能表现远不及预期,和 7 月中旬灰测时的 Pro 版本差距明显,思维链也变了——当前版本仍沿用 V4 Preview 的 let me 风格思维链,而灰测时用的是 I'm doing 风格。

    到了 8 月 13 日,官网一度挂上 V4 Pro 正式版的发布横幅,之后又被撤下,傍晚才重新挂上。

    更值得注意的是,8 月 13 日傍晚,DeepSeek 将 V4 Pro 0813 的权重文件上传到 Hugging Face,但仅仅过了一个小时就撤回了。

    根据佬友的帖子:

    DeepSeek Pro 0813 权重从 HuggingFace 下架,Pro 传成 Flash 配置 - 前沿快讯 - LINUX DO

    从中可以看到,V4 Pro 0813公开权重时包含的 config 配置参数,和 Flash 的参数完全一致:

    V4 Pro Preview(预览版)配置:```
    hidden_size = 7168
    n_routed_experts = 384
    num_hidden_layers = 61
    num_attention_heads = 128
    ``**V4 Pro 0813 和 V4 Flash 配置:**``
    hidden_size = 4096
    n_routed_experts = 256
    num_hidden_layers = 43
    num_attention_heads = 64
    ```我们让原主(deepseek)解释一下这些参数的含义:

    图片

    显然这些参数写的都是模型的基础信息参数,v4 pro正式版沿用的是和preview一样的base模型,所以这些参数应该和preview保持一致,而公开权重的 Pro 0813 却写成了 Flash 的参数,这明显不合理。合理推测是直接把flash的配置拷贝过来了。

    既然 DeepSeek 能搞错上传到 Hugging Face 的权重文件里的 config 参数,那也完全有理由怀疑:他们是不是同样把这套错误参数用在了正式环境的部署上。

    如果是这样的话或许能够解释为什么大家现在用到的v4 pro性能这么拉跨了

    当然,目前还没有实测证明,把 Flash 的参数套在 Pro 上是否也能正常推理。这只是目前我结合所有已知信息得出的猜测,可能完全不准确,欢迎后续打脸。

    主楼
  • Hyouka

    希望正式环境配错了。。不然太拉胯le

    #1
  • zenrbs

    借用推上的一句话: 不管你是什么东西,赶紧从v4pro身上下来!

    #2
  • 惊鱼

    这应该是最好的结果了,但是怕这次提升确实没这么大才是真相

    #3
  • iwyxdxl

    从benchmark来看相比flash来说确实提升不大,但是目前pro官方api的效果感觉是有时还不如flash,时神时鬼,甚至只有preview水平,所以怀疑也有参数配置错了的原因

    #4
  • biong_abk

    但过24小时了,修正也应该修正完,反馈还是不尽如人意

    #5
  • fcten

    不可能的,这个配置错了根本部署不起来,启动的时候就报 tensor size not match 了

    #6
  • 惊鱼

    感觉过两天再看deepseek会好一点,这两天就让子弹多飞一会吧,过两天无论如何也该盖棺论定了

    #7
  • LLMeme

    因为靠谱的人都被挖走了么?

    不过我更在意的是,如果原来不加班的文化变成加班了,感觉不太妙啊

    #8
  • Liong

    如果是部署的问题,那测试下其他公司自部署的 v4 pro 正式版是否就能知道是真实水平还是配置错误?比如 workbuddy 就已经更新了 v4 pro 正式版。

    #9
  • iwyxdxl

    刚刚才重新开放权重访问,别的公司没那么快自部署吧,估计现在上架的都是接官方的api,过两天再看看,还这么区就没招了

    #10
  • hulala888

    别猜了,非要洗一下吗,脑机接口很牢固了

    #11
  • TRIGGER2227

    别人正常猜测给出合理的推断,而你只会玩儿烂梗,就很

    #12
  • Liong

    昨天中午12点多公布的全线升级到正式版,不过也提到将全线调价,可能它确实不是自部署的。

    #13
  • hulala888

    合理在哪了?一天时间众说纷纭,该测的都测了,事实都摆你脸上了,还在找一些理由

    #14
  • SwiftUI

    配置错了压根运行不了的吧 应该就是 hf 上传的有问题而已

    #15
  • 3GZ

    那你这说洗什么的也不适合吧。但的确今天看到有很多人就是还心存幻想,以为官方会犯低级错误,不相信事实。

    #16

发表回复

登录后回复