如果社区能压缩到一半大小，性能损失可以接受，6000pro 还得涨 ^-^

本地部署更多是为了合规，某些公司的数据不给上云

是啊，和api价格肯定比不了，但本地来说性价比可以的

spark集群的速度基本是线性的，8x 部署真能商用了

半年前，这个级别模型的门槛还是GB300

现在便宜了，2x spark 5.5万可以拿下

特别厉害了，GLM 5.2 至少要4x DGX Sparks，还不能开1M上下文，吐 token 的速度也只有一半