AI / CYY
记忆系统
你跟 Claude 聊了一小时,分析完数据、画了图表、写了一半报告。然后你说"基于刚才的分析,帮我改一下结论"——它回你"刚才什么分析?"
短期记忆 vs 长期记忆
| 短期记忆 | 长期记忆 | |
|---|---|---|
| 存多久 | 当前对话内 | 跨会话,永久 |
| 存什么 | 这几轮的对话、任务进度、刚查的结果 | 你的偏好、以前做过的项目、你的目标 |
| 怎么实现 | 就在对话里(上下文窗口) | 存到外部(向量库+文件) |
| 什么用 | “这轮别断片” | “下次还记得你” |
短期记忆满了怎么办
Agent 的上下文窗口有限(比如 128K token)。聊久了会塞满。这时候需要压缩:
什么时候压:Token 快满了 / 聊太久了 / 任务进入新阶段
怎么压:
- 最近几轮的对话 → 保留原文(因为马上要用)
- 中间的历史 → 压缩成一两句摘要
- 寒暄、重复的日志 → 直接扔掉
智能压缩 vs 机械压缩
机械压缩:规则写死——“只保留最近 5 轮对话”。简单但粗暴,可能把重要信息也丢了。
智能压缩:让一个小 AI 读一遍历史,总结出“目标、约束、结论、下一步”保留下来。
实践中两者混着用:近的保留原文,远的做智能摘要,工具日志按规则裁剪。
相关
- RAG机制 — 长期记忆靠 RAG 实现