短期记忆
短期记忆又叫 "上下文记忆" 或者 "对话记忆"。主要就是指单次会话的记忆
局限性:
- 大小有限:上下文窗口大小有限制。达到上限最早的对话内容可能丢失(一般是会把之前的内容压缩)
- 易失性:随着会话结束,记忆消失
长期记忆
长期记忆又叫 "持久记忆" 或者 "外部记忆"。指把对话内容存储在外部 (数据库、内存、本地等), 在需要的时候再进行检索和使用
[对话A]
用户: 我叫nihao,我不喜欢吃香菜
长期记忆AI: 好,我记住了,很多人也不喜欢吃香菜呢
[对话B]
用户: 给我推荐一些适合当晚饭的菜品
长期记忆AI: 好的,我给你推荐一些不带有香菜的家常菜....
- 持久性:对话保存在外部,不依赖单个会话上下文窗口
- 可扩展性:只要存储介质允许可以无限制存储
- 需要自主管理:用户可能需要手动添、修改或者删除记忆
- 丢失完整性:长期记忆通常以摘要形式存储,可能会丢失对话细节
适用场景: 保存用户偏好、历史行为
不适用场景: 依赖精确上下文的复杂推理或即时决策的场景