• Xiaoxiaoo8

    我们公司采购了一个平台,但是现在交接完了,要我们持续优化,实在想不出来往哪优化了。。。目前是通过BM25关键词检索+向量检索;之前领导提过用知识图谱,可是仅仅一小部分要用知识图谱的数据就达到了两万篇文档,用图谱大概率投入大、收益低,还有什么其他的优化方向吗?

    主楼
  • alf

    不知道理解对不对。数据多和大。不都是直接灌给程序去转向量。。投入大指的是什么?硬件么?核心的关键还是你采购的这个平台的真实目的是为了什么?提高检索能力?还是其他想法,才能考虑具体的优化方向

    #1
  • Alexhh

    图谱大概率ROI不会好,可以推荐新增一些特定的检索场景。SAG,Agentic RAG 这样的。

    #2
  • Xiaoxiaoo8

    投入大是指提取实体和关系的时候,要对一篇文章的很多chunk提取,频繁调取大模型,时间成本就很大,我们之前试的十篇文档提取完就要三四个小时

    #3
  • alf

    楼上,二楼的兄弟给出的建议挺符合你的控成本的诉求和检索需求

    #4
  • Brantfang

    优化,看表现了。多用用当前平台,感觉那里不好或者使用者不满意。然后针对问题看解决方案。没问题优化什么。比如速度慢就看看硬件或者性能优化。

    #5
  • Xiaoxiaoo8

    感谢,我们往这方面看一下,之前没注意过SAG

    #6

发表回复

登录后回复