lao1 me
搜索
首页/AI

如果本地跑embedding模型 推荐哪一个呢

2916
  • Little_100
    Little_1002026-10-01
    22629

    如题, 手里有一张p104-100 8g但是也不能空着不用吧, 在想发挥一下余温, 有啥embedding模型推荐没 打算搞搞那种代码库索引的

    图片

    或者直接用硅基流动免费的 bge-m3？ 也不知道速度咋样 ^-^

    主楼
  • 甘棠
    甘棠2026-10-01
    6306

    试试看微信那个嵌入模型？

    WeMM-Embedding-9B

    WeMM-Embedding-4B

    WeMM-Embedding-2B

    #1
  • 枫哥
    枫哥2026-10-01
    12731

    图片

    这几个都行，另外如果没有显卡，用cpu，0.6b那个也可以用，这几个基本无感。

    #2
  • Little_100
    Little_1002026-10-01
    22629

    微信的这个感觉有点大了吧 会不会大体积低质量 ^-^

    #3
  • Little_100
    Little_1002026-10-01
    22629

    我看也有人推nomic的 nomic的咋样

    图片

    #4
  • cyilin
    cyilin2026-10-01
    8568

    qwen的那几个模型，挺好的，0.6b的那种甚至cpu都可以

    #5
  • wintsa
    wintsa2026-10-01
    10534

    好奇p104的话多少token/s，我现在用12代cpu和核显跑jev的量化第三方模型。7k文字的dom节点7s，图片5-8s

    #6
  • 甘棠
    甘棠2026-10-01
    6306

    MMEB Leaderboard - a Hugging Face Space by TIGER-Lab

    #7
  • 比卡丘
    比卡丘2026-10-01
    4862

    佬这种emb好像是做好数据不能换模型的吧？

    具体有什么用啊，知识库加速检索吗

    #8
  • Little_100
    Little_1002026-10-01
    22629

    暂时还不知道嘞, 等回学校放宿舍再试

    额外问一下佬 这个开源jev方案普遍是啥方案 可以用云端模型做后端嘛

    图片

    #9
  • Little_100
    Little_1002026-10-01
    22629

    准备的是做代码索引的操作然后配上个fim补全模型做那种跨文件补全的效果

    图片

    #10
  • 8386559
    83865592026-10-01
    10579

    这。。。不如小黄鱼出了算了

    #11
  • vzld
    vzld2026-10-01
    8734

    一般都是qwen，这问题应该上reddit的localllm版问

    #12
  • 蛋蛋
    蛋蛋2026-10-01
    26503

    qwen3-embedding-4B，这个我们用这挺好的

    #13
  • 比卡丘
    比卡丘2026-10-01
    4862

    具体有什么用啊佬？给个思路，我也有个闲置显卡

    #14
  • 蛋蛋
    蛋蛋2026-10-01
    26503

    做语义检索使用的

    #15
  • apparition
    apparition2026-10-01
    4670

    ace 末期时版上其实不少人分享过

    有几个开源项目可以搜搜

    也有索引搭配 grep 集成的软件

    好像有微软，另一个国产的忘了是哪家了

    #16

发表回复

登录后回复