- Eznait昨天6280
最近想入手一套个人 AI 算力设备,主要跑文生图、TTS、OCR、照片和视频索引之类的本地项目,如果性能足够也想尝试文生视频(非刚需),不确定自己会不会需要本地模型。这是我第一次考虑选购这类设备,之前主要用云端算力,或者用我手上的一张几年前的 A 卡解决,确实不太顺手。
目前在消费级显卡、统一内存设备和二手数据中心 GPU 之间反复纠结,50 系显卡、Mac mini / Studio、DGX、N1X,甚至包括 V100、魔改 3090 之类的方案都看过,越看越觉得预算还要加^-^
我觉得自己并没有本地跑大语言模型的刚需,现在各种模型订阅用得很丝滑。但最近看到 Strata 之类的推理框架,又开始惦记跑更大的本地模型。
探索欲泛滥导致我一直找不到合理的预算边界,在最小可用和一步到位之间反复横跳。
担心真正想玩的时候跑不动,又怕预算拉满之后满足的只是自己对未来玩法的想象。毕竟有些需求确实是有了机器才会产生,但如果把所有「以后可能会玩」的东西都算进去,预算似乎永远没有上限。
想问问佬友们:如果刚需有限,但总被新技术勾起兴趣,你们会怎么选?先买套够用的边玩边升级,还是直接上更高规格的平台?以及,这种相对轻量的本地需求有没有甜点方案推荐?
(还是我其实并不需要自有设备,继续用云端就够了?)
补充:我对噪音的接受度其实还可以,有单独的空间,而且休息时段开机没那么多。预算上限大约五到六万?但我仔细想想感觉5070ti甚至5060ti 16g好像也基本能满足我的需求^-^
主楼 - popyui昨天4328
- 冬月昨天6282
- 6284
- 5891
5090吧,不玩ai还能玩游戏。
- Eznait昨天6280
我对噪音的接受度其实还可以,有单独的空间,而且休息时段开机没那么多。预算上限大约五到六万?但我仔细想想感觉5070ti甚至5060ti 16g好像也基本能满足我的需求^-^
- Eznait昨天6280