• juanmaoshu

    求教各位佬,Mac Studio m5 max 64g跑qwen 3.8 27b行不行?有没有必要上128g?

    主楼
  • xHazy

    可以跑起来量化版本,余量应该不多了

    #1
  • Dowad

    如果真的要在做的事情当中使用,至少半年内,常规消费级本地部署完全打不过商业API。

    楼主说的方案,也就是买耳机听个响,后续用不下去的。

    要有能用的体验,至少是M5 Ultra。所以,这玩具看B站上别人部署的效果就足够了,没有必要亲自玩。

    #2
  • lucaslee606

    尽量上ULTRA。瓶颈主要在内存带宽。

    #3
  • wood1

    真有钱呀,我也想买,可看了下自己的钱..

    #4
  • Arend

    不是很理解本地自部署的意义,我连租gpu开机都要让agent精打细算 ^-^ 这就是穷吗

    #5
  • curtain

    64g能跑,但应该不会很舒服

    #6
  • AlickFine

    首发拿到 M5 ultra 256G 的表示,要不你就 mac mini+在线 api,如果要玩本地大模型,你就得狠狠砸钱,96g 80 核的 ultra 那是起步

    #7
  • 比卡丘

    想本地部署就上256…

    我是让亲戚去港买了,要11月中下才到,而且还是低配CPU的M5 Ultra 256G。

    高配CPU的核心多点,但是排期要15-17个月。

    都是为了无审核DS和无审核qwen,

    换算下拉,纯玩LLM真比买显卡性价比高

    #8

发表回复

登录后回复