从上下文窗口到记忆系统：一个必须厘清的概念

当开发者开始构建 AI Agent 时，最先遇到的困惑往往是：为什么我的 Agent 总是“记不住”用户说过的话？一个常见的直觉是——把更多历史信息塞进模型的上下文窗口。然而，这种做法混淆了两个根本不同的概念：上下文窗口和记忆系统。

上下文窗口是模型单次调用的输入缓冲区，模型每次读取都是全新的。而 Agent 记忆是一个围绕模型构建的系统，使其能够回忆起昨天、上周甚至多个会话之前发生的事情。拉伸上下文窗口，不会让你获得真正的记忆。

更关键的是，即便上下文窗口扩展到百万 token 级别，模型也并非能均匀“阅读”所有内容。著名的“Lost in the Middle”效应（Liu et al., 2023）表明，当相关信息位于输入中间时，模型性能会急剧下降。Chroma 研究团队将此现象命名为“Context Rot”（上下文腐败）——随着输入增长，模型变得越来越不可靠。

因此，生产级的 Agent 记忆架构必须超越简单的窗口扩展，转向系统化的记忆工程。

智能体七大记忆类型：构建记忆系统的认知框架

在深入具体技术方案之前，我们需要一套标准分类法来理解“记忆”到底包含哪些内容。参考 CoALA 认知架构（Sumers et al., 2023）和认知科学的分类，智能体记忆可分为七种类型，它们各自拥有专属的存储、调取逻辑：

1. 上下文/工作记忆

定义：单次对话上下文中实时载入模型的所有信息，包括系统指令、历史对话、工具返回结果等。

特性：会话结束即清空，是模型唯一能直接读取的信息。

工程实现：通过检查点组件（Checkpointer）将对话状态持久化，在用户新消息到达时重新载入。代表框架：LangGraph 内置检查点。

2. 语义记忆

定义：跨会话持久存储的静态事实，如用户偏好、业务规则、领域知识。

特性：与原始对话解耦，独立存储，可长期复用。

工程实现：通常采用独立事实存储库，按用户隔离，并配套事实提取、校验、更新、删除规则。

3. 情景记忆

定义：完整记录发生过的事件，包括任务目标、执行步骤、工具调用结果、报错信息等。

特性：让 Agent 从过往经验中学习，避免重复踩坑。

工程实现：通常搭配反思机制，任务完成后自动总结有效方案与失败原因，将摘要与完整日志绑定存储。

4. 程序记忆

定义：存储完成任务的固定步骤、行为规则、操作习惯。

特性：保证多轮执行行为统一，无需重训模型即可持续优化能力。

示例：优先检索内部文档再全网搜索；SQL 生成后校验语法合规性再执行。

5. 外部检索记忆

定义：依托向量数据库等外部存储，按需拉取信息。

特性：RAG 的核心，可扩展知识库容量，但依赖检索质量。

局限：仅能响应显式查询，缺乏主动联想能力。

6. 参数记忆

定义：模型训练固化的内置通用知识。

特性：知识冻结在训练截止时间，无法加载私有数据，微调成本高。

7. 前瞻记忆

定义：定时待办任务，依靠调度系统实现跨周期执行。

特性：不能仅靠对话上下文存储，必须外置任务、触发条件、完成状态。

核心原则：多数智能体只用其中几种，盲目堆砌所有类型会造成冗余、冲突、高成本。设计的关键不是“增加记忆”，而是明确：智能体需要记住什么信息、保留多久、在什么场景下调取。

主流记忆框架横向对比

当前业界涌现了多个开源记忆框架，它们在信息筛选、存储结构、检索机制、冲突处理等方面做出了不同取舍。以下从四个核心问题出发，对比 Mem0、Supermemory、Letta、Memora、Mandol 五套方案。

问题一：保留什么信息？

Mem0：独立存储离散事实与用户偏好，自动提取实体并建立轻量级知识图谱。

Supermemory：构建双模块用户档案——静态模块存技能、固定偏好；动态模块存近期对话。

Letta：不自动提取，由 Agent 通过工具调用自主决定写入哪层记忆。

Memora：每条记忆拆分为三部分：完整原始内容（不索引）、6-8 词核心摘要（向量检索）、多组线索锚点（多路径检索）。

Mandol：采用分层记忆模型，基础层存原始交互，高阶层由 LLM 自动提炼情景、语义、情感记忆。

问题二：何时写入记忆？

Mem0 v3：单次 LLM 调用提取事实，仅追加写入，不处理冲突。

Supermemory：实时写入，后台“梦境循环”异步整合（约 15 分钟内完成合并、冲突消解、过期清理）。

Letta：由 Agent 在交互过程中通过工具调用主动写入。

Memora：自动抽取事实、对话片段、流程知识，存入向量数据库并生成语义向量。

Mandol：对话结束后，由后台守护进程定时触发记忆提取与分层存储。

问题三：信息存储载体是什么？

Mem0：支持 Qdrant（默认）、Postgres+pgvector、Neo4j 图数据库。

Supermemory：向量+图谱一体化引擎，内置多平台数据连接器。

Letta：三层架构——核心记忆（上下文内文本块）、档案记忆（向量库）、回忆记忆（完整对话历史）。

Memora：默认 ChromaDB，支持本地/远程多种存储后端。

Mandol：内存原生语义数据结构（SemanticMap + SemanticGraph），统一键值、向量、图存储。

问题四：如何检索并排序？

Mem0：融合语义向量、BM25 关键词、实体匹配三重信号，综合排序。

Supermemory：提供 profile() 接口，直接返回整合后的用户档案（静态+动态记忆）。

Letta：Agent 通过工具调用 archival_memory_search、conversation_search 自主检索。

Memora：四种检索策略——语义检索、LLM 引导检索、混合检索、GRPO 强化检索。

Mandol：智能量化检索——查询自适应路由、多源并行召回、去噪与冲突消解、Token 预算内上下文精简。

冲突处理与遗忘机制

这是多数框架容易忽略的关键环节：

Mem0：写入时不做冲突处理，将矛盾消解后置至检索阶段。优点是写入快，缺点是存储膨胀。

Supermemory：后台“梦境循环”按时间戳消解矛盾，用新事实覆盖旧信息。存储长期整洁，但存在约 15 分钟延迟。

Letta：由 Agent 自主管理，通过 memory_replace 等工具手动更新。

Memora：系统自动完成去重、合并、更新。

Mandol：通过记忆源内部量化去噪与跨记忆源冲突消解，去除噪声与冗余。

前沿实践：记忆工程的最新突破

分层记忆模型与智能量化检索

Mandol 提出了凝聚式内存原生分层记忆系统，将碎片化的记忆表示与异构存储凝聚为统一架构。其核心创新包括：

分层记忆模型：基础记忆层存原始交互，高阶抽象记忆层由 LLM 自动提炼情景、语义、情感记忆，两层之间通过可追溯链接保持双向关联。

内存原生语义数据结构：在单一地址空间内实现键值、向量、图结构的原生融合，消除跨库查询延迟。

智能量化检索：在 Token 预算约束下构建高质量上下文，通过查询自适应路由、多源并行召回、去噪与冲突消解，实现高信息密度的证据上下文。

实验表明，Mandol 在 LoCoMo 和 LongMemEval 基准上分别取得 92.21% 和 88.40% 的整体准确率，同时平均检索延迟仅 82.2 ms，相比最快基线实现约 5.4 倍加速。

解耦式记忆表征：Memora

微软 Memora 的核心创新是将记忆的“存储内容”与“检索方式”完全解耦。每条记忆包含三部分：

核心摘要（6-8 词，用于向量检索）

记忆原始内容（完整信息，不参与索引）

线索锚点（多组短标签，提供多路径检索）

这种设计兼顾了抽象概括与细节精度：仅对摘要和锚点建索引，既保留高保真原始信息，又通过轻量化抽象层实现结构化检索。在 LoCoMo 和 LongMemEval 基准上达到 SOTA，Token 消耗降低 98%，存储条目仅为 Mem0 的一半。

GRPO 强化学习检索策略

Memora 支持通过分组相对策略优化（GRPO）训练专属检索策略，使用微调后的本地小模型（如 Qwen 3B/7B LoRA）替代大模型提示检索。训练流程分为三步：

轨迹采集：使用当前策略采集检索轨迹样本

轨迹打分：基于事实贴合度、冗余度、调用成本打分

策略训练：基于分组相对优势，使用 GRPO 算法更新策略

这一方案使得检索策略可以轻量化部署，无需每次调用大模型进行多步推理。

记忆工程与知识工程双轨架构

腾讯狍子AI 项目提出了“记忆工程+知识工程”双轨并行的架构，通过六层记忆服务体系（隐式提取→显式保存→截断保护→会话归档→快照缓存→记忆消毒）和知识活力五维评估体系，实现了 AI 的持续进化能力。其中，记忆的动态生命周期管理和知识自我进化的评判标准是落地的核心难点。

生产级架构设计原则

综合上述分析，构建生产级 Agent 记忆系统应遵循以下原则：

1. 明确分层定位

上下文窗口 = 工作内存（RAM）

记忆系统 = 持久化存储（磁盘）

二者通过检索边界双向联动：记忆经过滤压缩后载入上下文窗口，新交互数据同步写入记忆存储。

2. 按需选择记忆类型

并非所有场景都需要七种记忆。例如，简单问答 Agent 只需工作记忆+语义记忆；复杂任务 Agent 需要情景记忆和程序记忆；长期陪伴 Agent 则需要前瞻记忆。

3. 重视遗忘机制

记忆不是越多越好。必须配套信息新增、校验、更新、删除规则，实现主动按需遗忘。过时、冲突的事实带来的负面影响远大于无记忆。

4. 关注 Token 成本

每次检索和记忆写入都会消耗 Token。智能量化检索、后台异步整合、摘要压缩等手段可以有效控制成本。

5. 标准化接入

参考 MCP（模型上下文协议）等标准化方案，让记忆系统与 Agent 框架解耦，便于迁移和扩展。

总结与展望

2026 年，AI Agent 的核心竞争已从模型规模转向记忆能力。上下文窗口的扩展无法解决记忆的持续性、可靠性和成本问题。真正的记忆系统需要：

从“被动检索”走向“主动管理”

从“碎片化存储”走向“统一表征”

从“静态记录”走向“自主生长”

未来，随着 GRPO 等强化学习技术的成熟，记忆系统将能够自主优化检索策略；随着内存原生架构的普及，延迟和成本将进一步降低。Agent 记忆不再是简单的数据存储，而是智能体持续进化的核心引擎。

FAQ

Q1：单纯接入向量数据库就能实现智能体记忆吗？ 不能。向量数据库仅提供文本相似度检索索引，缺少完整记忆生命周期流程。真正的记忆需要判断信息留存价值、定时提取关键内容、结构化存储、按需精准检索、清理过期信息。仅把全部对话存入向量库，无法过滤无意义噪声、无法区分新旧冲突信息，会造成检索冗余和 Token 开销巨大。

Q2：Mem0 和 Supermemory 处理信息冲突的核心区别是什么？ Mem0 写入时直接追加新旧全部事实，不做覆盖，在检索阶段再判断信息时效性解决冲突。优点是写入速度快、LLM 调用成本低，缺点是存储数据量持续膨胀。Supermemory 依靠后台“梦境循环”异步合并信息、按时间戳淘汰过时内容，提前消解冲突。优点是存储库长期整洁，缺点是后台异步整合存在约 15 分钟延迟。

Q3：Letta 和 Mem0 最本质的设计差异是什么？ Mem0 提供标准化记忆 API，由开发者主动调用 add/search 接口管理记忆。Letta 借鉴操作系统内存分页思路，将上下文窗口视作内存，把记忆管理权限完全交给智能体自身。智能体通过专属工具自主完成记忆新增、修改、检索，无需开发者手动操作记忆接口，自主性更强，但工具链路设计和调试难度更高。

Q4：上下文窗口越大越好吗？ 不是。上下文窗口扩大带来的收益有限：模型存在“Lost in the Middle”效应，中间信息容易被忽略；每次调用按 token 计费，长上下文成本高昂；会话结束后上下文仍会清空，无法解决跨会话记忆问题。因此，生产级方案应构建独立的记忆系统，而非依赖窗口扩展。

Q5：如何选择适合自己项目的记忆框架？ 根据项目需求权衡：如果需要快速集成且对写入延迟敏感，选 Mem0；如果希望存储长期整洁、能接受异步延迟，选 Supermemory；如果构建复杂 Agent 且需要自主记忆管理，选 Letta；如果追求高精度检索和低 Token 消耗，选 Memora 或 Mandol。对于企业级场景，建议结合记忆工程与知识工程双轨架构。