引言

人工智能 (AI) 已经从基于规则的自动化演进到能够学习、推理和对话的自适应、灵活性系统。尽管成就斐然，但当今最先进的语言模型 (language models) 和智能体 (intelligent agents) 仍然缺失人类智能的一个关键要素：回忆特定个人经历的能力。

这正是 AI 情景记忆 (Episodic Memory for AI) 发挥作用的地方。这是一个新兴领域，致力于构建新一代具备上下文感知和持续学习能力的智能体。

人类利用过去的经验来规划未来的行动。具备情景记忆的 AI 智能体 (AI agents) 也应该能做到同样的事情——通过存储、检索并从其独特的经历中学习。

本文将深入探讨情景记忆对 AI 智能体意味着什么，它与其他类型的记忆有何不同，为何如此重要，其工作原理，以及未来面临的挑战。

核心要点

• 情景记忆 (Episodic Memory) 允许 AI 智能体 (artificial agents) 记忆和检索其过去经历中的特定事件，使其更具上下文感知能力，并能更好地从自身历史中学习。它提供详细的上下文信息，而语义记忆 (Semantic Memory) 则负责维护一般性事实。
• 情景记忆能够实现累积学习 (cumulative learning)、更优决策、改进个性化和提升效率。
• 在 AI 系统中，情景记忆通常通过专用的内存模块、向量数据库 (vector databases) 和检索算法来实现，其结构可以是时间索引日志、键值对或图谱。
• 情景记忆也带来了关于准确性、可扩展性、隐私和系统复杂性的新挑战，必须解决这些问题才能确保 AI 系统的安全和有效。

什么是 AI 中的情景记忆？

情景记忆 (Episodic memory) 指的是一种能够回忆其在运行过程中遇到的事件或经历的记忆能力。它非常类似于智能体内部的“日记”，由智能体亲身经历的离散事件组成。

例如，如果一个人类用户告诉虚拟助理取消订阅，因为价格上涨了，那么情景记忆会稍后将此事件（经历）回忆为用户明确指示要做的具体事情（取消订阅），并附带价格上涨的理由。情景记忆是基于事件和上下文的（与事件发生的时间和原因相关联）。

AI 智能体中的记忆类型

为了理解情景记忆在 AI 智能体认知架构中的位置，让我们来比较几种主要的记忆类型：

语义记忆存储一般性事实知识，而情景记忆包含带有上下文信息的个人经历。短期记忆是临时的（相当于模型的上下文窗口），程序记忆则编码了习得的技能或行动。

为何情景记忆对 AI 智能体至关重要？

大多数 AI 模型（如标准的聊天机器人 (chatbots) 或游戏智能体）只能访问其预训练知识和短期上下文。会话结束后，所有关于过去交互的信息都会在对话或事件结束后丢失。情景记忆打破了这一限制，使智能体能够从经验中记忆和学习。以下是情景记忆如此重要的几个主要原因：

• 从经验中学习：情景记忆允许 AI 智能体进行累积学习 (cumulative learning)。智能体可以因此在无需重新训练的情况下持续学习。
• 改进决策与规划：情景记忆可以为智能体的思考过程提供宝贵的“后见之明”作为上下文。一个具备情景记忆的决策 AI 智能体，如果能回忆起与当前情况相似的场景，就能做出更明智的规划。
• 个性化与上下文连续性：情景记忆可用于个性化 AI 助手或聊天机器人。它通过记住用户的偏好、过往问题和之前的互动，在多次交互中提供长期上下文。
• 效率与适应性：记忆使智能体在探索和与世界互动时变得更有效率。智能体可以记住并重用其情景记忆，而无需重新计算或学习知识。
• 迈向类人智能：情景记忆是自传式知识的基础，是实现人类水平的身份认同、创造力和灵活推理所必需的。它也被认为是迈向通用人工智能 (AGI) 的一步，因为具备此类能力的智能体可以从自己的“亲身”经历中进行类比。

AI 智能体中情景记忆的工作原理

AI 智能体的情景记忆通常实现为一个连接到智能体决策逻辑的记忆模块。

记忆存储

每当发生重要事件时，智能体会在记忆中创建一个新条目。每个记忆条目可能包含元数据特征（如时间戳、相关实体、结果，以及可能用于相似性搜索的嵌入向量）。

记忆检索

当智能体接收到新输入时，它会查询其情景记忆。这通常通过语义搜索 (semantic search) 完成。新查询被编码成一个向量表示，然后用这个向量在记忆库中搜索相似的向量（即与当前上下文相似的过去事件）。匹配度最高的“情节”被检索出来，并“注入”到智能体的推理过程中。

与智能体推理的集成

一旦相关的请教记忆被检索出来，它们必须影响智能体的输出。在实践中，这种集成有几种方式：

• 上下文增强 (Context Augmentation)：我们必须将检索到的记忆文本前置或嵌入到模型的提示/上下文窗口中。这样，模型在生成响应时就能“看到”那些过去的细节。通过选择性回忆，上下文窗口得以扩展。
• 记忆增强模型 (Memory-augmented Models)：一些模型集成了一个专用模块（如可微记忆网络、知识库等）来存储和访问信息。例如，智能体的策略/决策函数在达到某个状态时可能会显式调用一个记忆读取函数。
• 规划器与工具使用 (Planner and Tool Use)：在更复杂的智能体系统（例如，自主解决任务的智能体）中，一个规划器组件可能会决定何时查阅记忆。例如，一个智能体可以有一个高层循环：“如果当前目标与过去的目标相似，则回忆该情节的解决方案并重用它。”记忆可以被视为智能体在推理链中可以访问的额外工具/数据库。

在实际应用中，情景记忆通常被具体化为一个数据库或向量存储。许多现代 AI 智能体将过去交互的嵌入 (embeddings) 存储在外部的向量数据库（如 Pinecone、FAISS、Weaviate 等）中，然后使用相似性搜索来提取前 k 个最相关的记忆条目，并将其包含在提示中。

一些遵循此模式的系统：

• Auto-GPT 最初只有短期记忆，但因上下文长度限制而遇到瓶颈，后来通过向量搜索引入了长期记忆。
• Teenage-AGI 智能体明确地将其思维链和结果存储在记忆数据库中。当开始新任务时，它会查询数据库以回忆早期的推理步骤。

通过将情景记忆作为外部知识库存储，智能体可以扩展到处理成百上千个过去的情节而不会耗尽上下文，因为它只获取相关的部分。

伪代码：存储和检索情景记忆

下面的伪代码描述了一个使用嵌入的情节记录和检索工作流。它可以适用于其他智能体框架。

# 将情节存储到向量数据库的函数
def store_episode(episode_text: str, metadata: dict, vector_store):
    # 使用 LLM 或嵌入模型将文本情节转换为嵌入
    embedding = embed_text(episode_text)
    # 存储嵌入和元数据（如时间戳、用户ID、任务）
    vector_store.add(embedding, metadata)

# 检索相关过去情节的函数
def recall_episodes(query: str, vector_store, top_k=5):
    query_embedding = embed_text(query)
    # 执行向量相似性搜索以检索 top_k 个相关情节
    results = vector_store.search(query_embedding, k=top_k)
    # 提取情节文本和元数据用于上下文
    return [(item.text, item.metadata) for item in results]

# 智能体交互过程中的步骤
def agent_step(observation):
    # 总结当前观察并将其作为情节存储
    episode_text = summarise_observation(observation)
    metadata = {"timestamp": current_time(), "task": current_task()}
    store_episode(episode_text, metadata, episodic_memory_store)
    
    # 回忆相关的过去情节以辅助决策
    retrieved = recall_episodes(observation, episodic_memory_store)
    
    # 将检索到的上下文与新观察组合成提示
    prompt = compose_prompt(retrieved, observation)
    
    # 查询 LLM 并生成行动
    response = llm.generate(prompt)
    return response

请注意，此伪代码同时突出了写操作（存储情节）和读操作（检索情节）。智能体通常在存储前使用自然语言摘要来总结情节，以减少存储占用。检索通常基于向量相似性或图遍历来找到与当前上下文相关的情节。

记忆组织

情景记忆通常以一种适合高效检索的数据结构来组织。流行的技术包括：

• 时间索引日志 (Time-indexed logs)：按时间顺序存储情节（有助于回放或时间线式分析）。
• 键值记忆 (Key-value memories)：使用一个键（嵌入或某种符号键，如事件类型或 ID）来索引记忆，以实现快速检索。
• 基于图的记忆 (Graph-based memories)：将情景记忆表示为一个图，其中事件作为节点存储，并通过它们之间的关系（时间序列、共同涉及的实体等）用边连接。图记忆对于检索相关事件和进行推理非常有用（例如，一个表示事件的知识图谱 (knowledge graph)）。

维护和修剪记忆

随着情景记忆库的增长，智能体也需要决定记住什么和忘记什么。记忆管理策略因不同事件的重要性而异。这些策略可能包括：

• 基于相关性的保留：只保留具有高影响力结果的情节。（例如，琐碎的用户交互可能会被修剪或存档。）
• 摘要化：完整存储最近的情节，但将长期记忆压缩成摘要。例如，一年前的聊天会话可能会被压缩成一个包含关键点的简短笔记。
• 基于时间的衰减：除非被频繁访问，否则记忆会被赋予一个“年龄分数”并最终随着时间的推移而淘汰。
• 用户控制与安全：特别是对于个人 AI 助手，用户应该能够删除或审查已存储的任何记忆。

构建情景记忆需要软件架构（处理存储和检索的记忆模块）和算法智能（识别在何种情况下从存储中调用哪些记忆）。这个领域的研究进展迅速，不断有新的框架和技术被提出来赋予 AI 智能体更强的记忆能力。

情景记忆的应用和用例

情景记忆为 AI 智能体开启了众多的应用和用例。它使智能体在涉及长期理解和适应的场景中变得更加能干和实用。以下是一些情景记忆应用和使用领域的例子：

限制与挑战

情景记忆潜力巨大，但也带来了一些挑战和潜在的陷阱。以下是情景记忆的一些挑战和局限性。在设计记忆增强型智能体时，必须牢记这些问题：

常见问题解答 (FAQ)

问：AI 中的情景记忆是什么？
答：在人工智能的背景下，情景记忆是一种机制，通过它，智能体可以存储和回忆其遇到的经历或事件，以及相关的上下文信息（如时间、地点和结果）。

问：情景记忆与智能体中的语义记忆有何不同？ 答：情景记忆包含智能体经历过的特定上下文事件的信息（例如，“我上个月为用户 X 预订了去巴黎的航班”）。语义记忆是事实和知识的汇编，与特定事件无关（例如，“巴黎是法国的首都”）。

问：强化学习智能体如何使用情景记忆？ 答：在强化学习智能体中，情景记忆使其能够回忆特定的事件或情节，包括过去经历的一系列动作、状态和奖励。这样，智能体可以记住成功或失败的经验，并在遇到类似情况时利用这些信息做出更明智的决策。

问：大语言模型中使用情景记忆吗？ 答：大多数 LLM，如 GPT-3 或 GPT-4，不具备在会话之间持久存在的情景记忆。然而，开发者可以为 LLM 增加外部记忆模块，使其能够存储过去的用户交互，并在之后引用这些交互。

问：实现情景记忆的常用工具有哪些？
答：流行工具包括用于存储和检索经验嵌入的向量数据库（如 Pinecone、FAISS、Weaviate 等），用于存储事件间关系的图数据库，用于将记忆构建到 LLM 智能体中的框架（如 LangChain），以及用于特定应用的定制记忆模块。

结论

情景记忆是使智能体变得智能和自适应的基石。通过赋予智能体记忆、检索和从自身独特经验中学习的能力，我们可以从静态的、一刀切的自动化过渡到能够像人类一样随时间个性化、适应和改进的系统。

尽管仍有许多技术和伦理挑战需要解决，但持续的研究和开发正在迅速克服这些障碍。

随着 AI 智能体变得越来越具上下文感知能力和终身学习能力，情景记忆将成为下一代值得信赖、有效且类人的人工智能的构建块。而像 Gradient GPU Droplets 这样可扩展和高性能的基础设施，将使开发者能够轻松地训练、部署和迭代支持记忆的 AI 系统。

参考与资源

• Episodic memory in AI agents poses risks that should be studied and mitigated
• Giving Your AI a Mind: Exploring Memory Frameworks for Agentic Language Models
• Tech4Future (2022). “Episodic Memory: The Next Milestone for Artificial General Intelligence?”

关于

关注我获取更多资讯

📢 公众号

💬 个人号