• Eznait

    最近想入手一套个人 AI 算力设备,主要跑文生图、TTS、OCR、照片和视频索引之类的本地项目,如果性能足够也想尝试文生视频(非刚需),不确定自己会不会需要本地模型。这是我第一次考虑选购这类设备,之前主要用云端算力,或者用我手上的一张几年前的 A 卡解决,确实不太顺手。

    目前在消费级显卡、统一内存设备和二手数据中心 GPU 之间反复纠结,50 系显卡、Mac mini / Studio、DGX、N1X,甚至包括 V100、魔改 3090 之类的方案都看过,越看越觉得预算还要加^-^

    我觉得自己并没有本地跑大语言模型的刚需,现在各种模型订阅用得很丝滑。但最近看到 Strata 之类的推理框架,又开始惦记跑更大的本地模型。

    探索欲泛滥导致我一直找不到合理的预算边界,在最小可用和一步到位之间反复横跳。

    担心真正想玩的时候跑不动,又怕预算拉满之后满足的只是自己对未来玩法的想象。毕竟有些需求确实是有了机器才会产生,但如果把所有「以后可能会玩」的东西都算进去,预算似乎永远没有上限。

    想问问佬友们:如果刚需有限,但总被新技术勾起兴趣,你们会怎么选?先买套够用的边玩边升级,还是直接上更高规格的平台?以及,这种相对轻量的本地需求有没有甜点方案推荐?

    (还是我其实并不需要自有设备,继续用云端就够了?)

    补充:我对噪音的接受度其实还可以,有单独的空间,而且休息时段开机没那么多。预算上限大约五到六万?但我仔细想想感觉5070ti甚至5060ti 16g好像也基本能满足我的需求^-^

    主楼
  • popyui

    v100花点小钱得了。

    要不咱们弄个带colab的订阅先玩玩看呢,那个配置还高

    #1
  • 冬月

    嘶 其实我想问一下 相比你说的这些 你是否能够忍受噪音 或者你有没有小空间 并且有没有一个预期的价格(

    不然这没法给你推设备的

    #2
  • linuxdomember

    确实,你其实并不需要自有设备,继续用云端就够了


    但是如果你要生成NSFW相关的图片/视频的话,公开的订阅服务应该都不会支持的

    #3
  • gangpula32

    5090吧,不玩ai还能玩游戏。

    #4
  • Eznait

    我对噪音的接受度其实还可以,有单独的空间,而且休息时段开机没那么多。预算上限大约五到六万?但我仔细想想感觉5070ti甚至5060ti 16g好像也基本能满足我的需求^-^

    #5
  • Eznait

    这个倒没有hhh

    做的是正经内容

    #6

发表回复

登录后回复