• bigfz

    图片

    用的 vscode zoo 插件写的 模型是27b-gsq-rco-iq3-s-mtp 感觉效果一般 但是完成度还行,模型没联网

    提示词:写一个 svg html 动态 鹈鹕骑车

    主楼
  • dtfour09

    是的啊,还可以。

    #1
  • KHNL

    上下文多少,每秒多少token?

    #2
  • bigfz

    我用的b站大佬刚搞出来llamaccp 分支kvmem 上下文256k 用核显点亮电脑 独显跑模型 速度70-80 感觉跟开外挂一样

    #5
  • 乌拉乌拉011

    iq3的27b塞5070ti能跑完就行了,糊一点正常。想清楚点换q4或者小一档就稳不少。

    #3
  • ashv

    这么强吗,不会阿里根据鹈鹕特训了吧

    #4
  • yibao

    主要是这卡现在可不便宜

    #6
  • bigfz

    16g显存就能玩,5060ti也行

    #8
  • yibao

    现在涨成这样,没想法了

    #11
  • 布什-戈门

    刚跑的5.6Sol,看笑了给我

    图片

    #7
  • RUSALL-Musk

    笑死 ^-^

    #14
  • squalll

    用QWEN CODER 当大脑,让CODEX写程序的话,5070ti行不行?(我也5070TI)

    #9
  • linqi184278332

    数据挺好

    #10
  • mingtian233

    我也部署了,用起来不错

    #12
  • phoenix-yu

    请问是哪个项目?有github地址吗?

    #13
  • bigfz

    kvmem

    #16
  • RUSALL-Musk

    看着还不错啊

    #15

发表回复

登录后回复