• Novices

    本机配置 5060 8gb + 16*2 ddr4

    只是玩玩而已,不做生产力!

    如果在不升级的情况下,可以在本地折腾什么呢?想要本地部署。

    目前我能想到的,且已经尝试了的

    - 翻译

    - 图片生成(wan2.1)

    图片

    图片

    - 视频生成(minimax-h3)

    压缩了很多才能上传上了,其实很流畅!

    图片动起来

    图片

    - 简单的对话

    如果我想在此基础上,让模型能够辅助我完成一些复杂的任务呢?(找hook点?一点点逆向?)


    还请各位佬友出谋划策,定不胜感激!

    主楼
  • Edward

    感觉1和4可行,至于2和3,没测试过

    #1
  • Novices

    我已经试过了,会很慢,但是处于能看。一会我补一下!

    #2
  • xiaofeng1

    我觉得不能折腾什么吧,显存太小了

    #3
  • leioukupo

    显存太小了,干不了什么

    也就1和4吧,而且4还不能是参数太大的模型

    #4
  • MR_Arvin

    8G,还是不用折腾了,要是16G的话还可以折腾折腾

    #5
  • ArkaneFans

    至少打打游戏还是没问题的,3A用1080P也能爽玩

    #6
  • 冬马99

    可以玩游戏,可以OCR。显卡跑OCR还是没问题的

    #7
  • liuliu

    感觉玩玩可以,当生产力的话,效率会有点低。

    #8
  • hwang

    看看这个,能检查到你本地能跑啥模型:

    图片

    CanIRun.ai

    图片

    Can I run AI locally? Best models for your GPU

    Detect your GPU or Mac and see which open LLMs, coding, image and video models you can run locally. VRAM requirements, speed estimates and grades.

    #9
  • impouo

    14是可以的,23别想了,没必要硬上

    #10
  • Novices

    好的,我去搂一眼。只是玩玩而已,不做生产力!

    #11
  • IdleNight

    本地部署玩的话,找千问小模型就行了

    Qwen-Image-2.1,刚好最近出的,据说效果不错,没记错的话8GB级别应该勉强能跑?

    #12
  • 炫彩小鱼干

    可以部署一个生图模型了!

    感谢 unsloth 发布了 Qwen-image-2.1 的量化版本

    Q4_K_M 仅 4.2GB,终于可以让我的 5060 尝尝最新的开源生图模型了
    硬件需求
    RTX 5060 Laptop 8GB
    ≥ 16 GB 内存(所有模型权重全部卸载到 CPU)
    耗时
    1k 图 70 秒,2k 图 12 分钟(显然除了 1k 之外的分辨率都不具有可用性,而且更高的分辨率会出现奇怪的 bug,…

    最近还在调试一个小红书的tts模型,可以达到实时的生成速度,用来听书很好用!

    #13
  • TopS

    基本上用不了什么,玩玩游戏吧,以后环境正常了再搞个大的玩玩

    #14
  • Novices

    !佬,你的很多方案,我都是有看的,很受启发!谢谢!已经躺在我的关注列表里啦!

    #15
  • 若初

    我是5070 10g minimaxh3量化加速生视频,分辨率不高还是可以用的就是有点慢,千问最新那个图片的也能玩

    #16

发表回复

登录后回复