- xfive6天前20964
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
我的帖子已经打上 开源推广 标签: 是
我的开源项目完整开源,无未开源部分: 是
我的开源项目已链接认可 LINUX DO 社区: 是
我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
以上选择我承诺是永久有效的,接受社区和佬友监督: 是以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出
作为程序员…
目前我实践都在这个开源项目里,记忆是其中很重要也是迭代多次的模块。先不说别的跨对话agent共享记忆是很影响用户体验的,有了记忆后用户好像和人一样对agent跨会话对话也轻松了很多。那么我是怎么做我的agent记忆的呢,曾模块非常复杂。
先来看下前沿的都是怎么搞的吧
1.Mem0:记忆管理做成 LLM 流水线(arXiv:2504.19413)
核心主张:不是“存原文再检索”,而是动态抽取→合并→检索流水线——从对话抽出候选记忆,与库内近邻比对后执行 ADD / UPDATE / DELETE / NOOP,每条记忆有生命周期;增强版 Mem0ᵍ 引入图记忆专攻 multi-hop。
LOCOMO 基准上胜过六类基线(记忆增强 / RAG / 全上下文 / 开源 / 专有 / 平台);LLM-as-a-Judge 较 OpenAI 相对 +26%,图记忆再 +2%;p95 延迟较全上下文 -91%,token 成本 -90%+。他们自己测试的我也不知道是不是这样。
其实这个路径主要是对记忆进行增删改查有点像是管理了一个大的知识库好处就是有图记忆会非常强但。所以我的agent对这部分的在我不知道这个项目前也靠直觉做了一些这个流水线但是不是很完善
2 Zep / Graphiti:时序知识图谱(arXiv:2501.13956,官方博客)
每条记忆都有单独时间线,所以可以共存多条时间线。每条图边带有效时间区间(t_valid / t_invalid),关系变化不覆盖旧边而是新边——“住在北京”和“搬去上海”同时为真,只是区间不同;支持边失效而非删除,历史可追溯;统一非结构化对话与结构化业务数据。
DMR 94.8% vs MemGPT 93.4%;LongMemEval 准确率最高 +18.5%、延迟 -90%。
这个路径我其实感觉是最适合符合记忆的每一天时间线都可以单独走编辑非线性其实是f
3 A-MEM:Zettelkasten 式记忆网络(arXiv:2502.12110,)
新记忆生成结构化笔记(上下文/关键词/标签),自动与历史记忆建链形成知识网络;关键创新是记忆演化——新记忆加入会触发旧笔记的上下文与属性更新,网络持续自我精炼。其实我的agent最早一般有点类似这个,形成结构化记忆然后靠搜索匹配自动注入到上下文。
4 MemOS:记忆即操作系统资源(arXiv:2507.03724,本次已在线核实)
统一明文记忆 / 激活记忆 / 参数记忆三种异构表示的调度与演化;基本单元 MemCube 封装内容 + 元数据(,可组合、迁移、融合——在参数记忆与外部检索间引入显式记忆层。
这个版本我个人觉得做的太重不适合个人agent更适合企业级复杂记忆的agent。但是方向非常好,做好了的话是企业知识库的大升级但是开发量也非常高。
然后就是rag方向也是非常重要的目前看比较前沿的rag方案是下边几个
- GraphRAG(arXiv:2404.16130,微软):实体-关系抽取建图 + 社区检测 + 社区摘要,解决朴素 RAG 只能看到细节不能看到全局的问题。
- LightRAG(arXiv:2410.05779):双层检索(低层实体/关系 + 高层主题)+ 增量图更新,免去昂贵的离线社区摘要 这样多拉几层检索就也解决了不能看到全局的问题很奇妙吧,大家都在解决这几个问题但是思路截然不同。
- HippoRAG 2(arXiv:2502.14802):模拟海马体索引理论,Personalized PageRank 在概念图上多跳扩散,持续超过朴素 RAG 与同期记忆方案。老实说这个就很厉害了,因为我确实还没理解,在图上多跳扩散理解更多东西。但是我不太理解如何能理解全局,可能和人类一样要多点启发后才能达到和人类记忆类似的效果。
说了这么多最后其实就来讲一下我的项目记忆是怎么架构的。我最早是朴素的直接检索所以效果不是很好加上注入,只有偶尔可以成功
大部分是失败的导致我进行了迭代添加了类似rag把现有记忆都向量化,这样就能找到了并且和原文拼接,这样既能找的相关性又有完整信息不会丢精度。做到这里的时候感觉已经是可以找回记忆达到了最初跨对话记忆的效果。但是知道深入研究发现原来大家对记忆的探索这么多。所以接下来我的agent记忆升级路线会是这样
记忆动态抽取合并(ADD / UPDATE / DELETE / NOOP)在写入时完成,写入即演化,取消后期重新整理这样更像人思考的过程,并引入遗忘时效与检索升级。这样agent的记忆系统就会变成免维护的减少人工干预而且效果依然很好。写了好久希望佬们能给点点赞也给我的项目点点^-^。
下边是引用的内容。有原文佬们可以研究研究
- Mem0 论文:[2504.19413] Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory
- Zep / Graphiti 论文:[2501.13956] Zep: A Temporal Knowledge Graph Architecture for Agent Memory
- Zep 官方博客(State of the Art Agent Memory):Zep Is The New State of the Art In Agent Memory | Zep Blog
- A-MEM 论文:[2502.12110] A-MEM: Agentic Memory for LLM Agents
- MemOS 论文:[2507.03724] MemOS: A Memory OS for AI System
- LongMemEval 论文:[2410.10813] LongMemEval: Benchmarking Chat Assistants on Long-Term Interactive Memory
- Mem0 研究动态页(2026 路线:Temporal Reasoning / Memory Decay / Token-Efficient):Mem0 Research: LoCoMo, LongMemEval & BEAM Benchmarks
主楼 - hwang6天前6584
谢谢佬的分享,总是能在L 站看到一些看不懂的东西…
像:
兄弟我建议先从本地文件开始搭建,一次性不要搞这么多,每周让AI自己沉淀、精简一轮。
分享一下我现在用的方式载体是 Obsidian,一个本地文件夹装 markdown,靠 [[wikilink]] 互相引用。这个真的挺好用的,插件也挺全。
分三块:PRD(正在做的需求)、数据库(表字段元数据)、Wiki(沉淀出来的知识,再分 systems/domains/incidents/pr…
发这个贴的原因,是看到论坛里很多佬友对ai的记忆系统如何设计,以及人类的记忆系统是如何工作的缺乏概念,看着有些抓耳挠腮干着急。想冲上去纠正但是又怕冒犯了人家,所以干脆自己开贴说了。
交代下背景。我决定往人工智能方向走,是因为15年学习了吴恩达的机器学习网课。之后一边自学机器学习,强化学习,脑科学,一边拿到了信息工程、生物学(准确说是理学硕士)的学位,同时辅修了认知科学。主攻研究方向是计算神经科学…记忆系统的话,混元的哪个呢?
memory.hunyuan.tencent.com
Hy-Memory 2.0 — 模型、框架、应用三层全开源 | 腾讯混元
腾讯混元 Hy-Memory 2.0:聊天、工作、代码三类记忆,4 个 benchmark 开源框架第一;Hy-Memory-30B-A3B 记忆专用模型平均分超过 Opus5;MemHub 让 10 种 AI 工具共享一份个人记忆。
- xfive6天前20964
佬这个几个分享第二个项目我还没细看看起来是给于记忆声明周期类似于mem0也是我下一步要改进的方向,混元的是分层记忆,也是类似rag分层检索这样有细节有全局这样效果应该也很好类似,第一个是个人分层分类。这些技术方案实现各不相同但是我理解内部逻辑其实差不错和我文章里这几个路径大差不差或者组装出来,完全可以根据自己场景去决定如何使用,能力应该都很强
- xfive6天前20964
佬有兴趣的话可以看下我的开源项目,和第二位开源项目自己上手看一下就明白了
- Jensen🛡️6天前18512
大佬看这些英文文献一点障碍都没有吗
- xfive6天前20964
当然是借助一下科技的力量了,一方面会让我的这个agent项目辅助我阅读,另外也有翻译插件,语言这个问题在ai时代已经被解决了
- jerry6天前11928
我最近也在做这方面的工作,想问问目前的这些记忆系统的评价标准还是看类似长期召回的指标吗,感觉这跟实际使用的效果gap很大
- Beast_Nero6天前7002
mark一下等以后有沉淀了再来看
- xfive6天前20964
- LoCoMo:超长多 session 对话问答,覆盖 single-hop / multi-hop / temporal / open-domain。
- LongMemEval:目前最系统的基准,考五项能力——信息抽取、多 session 推理、时序推理、知识更新(旧事实失效后还能不能答对)、拒答(没有的不编)。
佬可以搜索一下评测体系还是不少的,可以用agent辅助检索,来看这些评测方法。