• zx94438011

    英伟达 9 月 30 日的官方博客里,副总裁 Ian Buck 提到:CoreWeave 的 V100 在 Volta 架构发布近十年后,仍在运行客户的工作负载。同一家 CoreWeave ,也已经把最新的 Vera Rubin NVL72 机柜投入生产。

    CoreWeave 大会现场

    (图源:英伟达官方博客)

    我们做过保设备的维保,见得最多的就是这种情况:设备早过了折旧年限,业务还离不开。能不能继续跑,一看有没有备件,二看有没有人会修。

    新旧搭配着用才是常态:最新的柜子跑最重的活,老卡跑轻一些的。

    主楼
  • dianso

    这有啥稀奇的
    去年采购的叫号机
    杂牌的,还是用的 xp 系统,跑的 mysql
    ddr3 的内存
    外观精美漂亮,开机直接到 UI ,不进桌面维护根本不知道有多老旧。

    #1
  • zx94438011

    @dianso 哈哈确实,叫号机、收银机这类最能扛,XP 加 DDR3 跑到现在的不少。麻烦的是哪天主板或电源坏了,同型号的备件越来越难找。

    #2
  • ntedshen

    12 纳米制程 210 亿晶体管,20 系一代的。。。
    和现在市面上的低配机其实只差一代。。。

    #3
  • zx94438011

    @ntedshen 是的,12nm 、约 211 亿晶体管,和 20 系差不多同期,放在消费级不算老。但数据中心里 GPU 一般按四到六年折旧,快十年了还在接客户的活,算超期服役了。

    #4
  • ntedshen

    @zx94438011 这个主要是资产处理的问题吧,又不是什么刚性需求。。。
    隔壁 backblaze 也是一堆硬盘盘均几百个月,用到坏才扔的。。。
    这两年反正也都是按算力定价,能效差异不大,算力等于售价,那可不,不如不换。。。

    #5
  • zx94438011

    @ntedshen 同意,说到底是账怎么算。折旧提完了,只要还有人按算力买单,多跑一天就多赚一天,Backblaze 的硬盘是同一个道理。区别在于硬盘坏了换一块就行,老 GPU 服务器跑到后面卡的是备件,电源、风扇、主板停产之后就不好找了。

    #6
  • nlzy

    Volta / Turing 有什么硬件特性,能跑什么算子,程序员应该是最了解的群体。

    现在建数据中心不是 AI 厂家自己建设,而是成立 SPV ,AI 厂提供照付不议的担保,用硬件作为抵押进行融资。所以 GPU 硬件的使用年限和折旧到底怎么算,是一个很重要很重要的问题,根本性地决定了折旧计提打穿劣后级的概率,劣后级打穿了,损失就该到数据中心的投资人承担了。

    所以现在 AI 厂提供劣后级资本和照付不议的担保都不够,连硬件厂都要拉来提供残值担保,不然没有高利率或超额回报的话,投资人根本就不会出资投资 SPV 。为了能让数据中心的投资人出钱买卡,为了降低大家对硬件厂表外担保的质疑,吹嘘 GPU 折旧时间长是近年来日常的金融工作,不用当真,本质安抚投资人而已。

    #7
  • cowcomic

    V100 32G 版本私有化部署场景下性价比很高
    特别是部署 50B 以内的量化模型

    #8
  • qazwsxkevin

    你们是在说生产场合,
    我觉得对于 homelab 及研究极客,“也不是不能用”的情况下,V100 不合适,至少 2~4 块吧,费用和受益,好像还真不如一张 5090 。。。

    #9
  • zx94438011

    @nlzy 这个角度我没想到,学习了。英伟达自己出来说老卡还在跑,确实是有立场的。我觉得可以分开看:账面上按几年折旧是融资和会计的事,卡在物理上能不能跑十年是另一回事。V100 这个例子只能证明后者,证明不了六年折旧就合理,能跑和跑得赚钱不是一回事。

    #10
  • zx94438011

    @cowcomic 32G 显存放到现在也不算小。你们是单卡跑还是多卡一起上?另外我印象里英伟达说过 580 是最后一个支持 Volta 的驱动分支,后面新版 CUDA 不一定带,这块有遇到问题吗?

    #11
  • zx94438011

    @qazwsxkevin 同意,个人玩新卡省心:一张卡、有保修,功耗和噪音都好控制。V100 是被动散热的数据中心卡,放家里还得自己解决风道。老卡的优势主要在已经买了、已经上架的场合。

    #12
  • intoext

    到目前还有在市面上见到 华为 3COM 的以太网交换机呢,得服役有 20 年了吧? 真禁造啊

    #13
  • zx94438011

    @intoext 交换机是真能扛,除了风扇没什么活动部件,电源不出事就能一直跑。那批老机器现在还有不少在当接入层用,最后退役往往不是因为坏了,而是端口速率跟不上,或者固件不再更新了。

    #14

发表回复

登录后回复