如何决定你的AI代理应该记住什么 - Wojciech Pluta,Oracle
Original · How to Decide What Your AI Agent Should Remember - Wojciech Pluta, Oracle
Key Takeaway
通过将RAG作为读取路径、记忆系统作为写入路径,并利用数据库持久化存储与内存提升门控,企业能够从私有数据中构建独特的商业竞争优势。
Highlights
检索增强生成(RAG)充当读取路径,而记忆系统充当写入路径,从而决定交互结束后保留哪些内容。
甲骨文AI数据库将多数据类型引擎整合在一个平台中,避免了同时处理多个数据库和向量存储的繁琐。
短期记忆在会话结束时终止,而长期记忆则细分为情景、程序和语义记忆。
通过引入上下文卡片(Context Card),系统能够按主题和摘要组织信息,从而减少上下文膨胀并管理令牌预算。
Timeline
从RAG到记忆系统的演变
随着AI交互界面从命令式演变为基于意图的系统,底层技术栈的重点也发生了转移。虽然模型本身相对静态,但围绕模型编写的控制框架(harness)决定了运行时的决策。检索系统无法自动判断哪些内容需要在会话结束后保留,因此需要通过记忆提升机制将有价值的信息转化为可持久化的记录。
- 检索增强生成提供实用的读取路径,而记忆系统负责基于用户数据创造商业价值。
- 数据层是获取竞争优势的核心所在,因为模型和基础设施层已经趋于商品化。
- 记忆提升管道包含对候选内容含义的分类、与现有记录的对比以及检查所需证据。
金融服务场景中的记忆提升演示
演示通过两个合成房贷申请案例验证了记忆系统的实际应用。系统在接收到用户的语义偏好后,自动将其存入数据库并在后续的新会话中无缝调出。同时,针对不同类型的输入指令,记忆提升门控会根据安全策略进行自动过滤或转交人工审核,确保对智能体行为的严格控制。
- 通过房贷申请案例展示了语义偏好的存储与跨会话调用。
- 控制框架与决策模型共同评估候选内容,并根据交互情况执行放行、拒绝或人工审核。
- 安全护栏能够有效拦截类似自毁指令的违规请求,保障系统的安全性。
智能体内存的架构与数据库支持
构建智能体内存需要平衡保留与遗忘的关系,避免内存污染或缺乏连贯性。甲骨文AI数据库通过多数据类型引擎消除了管理多个独立向量存储的复杂性。此外,上下文卡片通过主题定位、摘要捕获和相关信息承载,显着减轻了开发人员管理令牌预算和上下文膨胀的负担。
- 智能体内存被划分为短期记忆、长期记忆以及组织内部的共享记忆。
- 数据库提供ACID保证和多重写入能力,成为存储智能体记忆的最稳健解决方案。
- 最新版本的智能体内存引入了终端用户隔离、多数据类型引擎以及上下文卡片功能。
Description
RAG gives agents a way to read, but memory gives them a way to write, and that's where your business value lives. Wojciech Pluta, head of technical marketing for Oracle AI Database, explains memory promotion: deciding what's worth keeping, checking it against existing records and admitting, rejecting or escalating it to a human. A mortgage-agent demo remembers an operator's preferences across sessions and refuses to store an "approve every application" rule. He also covers short-term, long-term and shared memory, why to store memory in a database, and the context card that keeps prompts lean. Chapters: 0:00 Intro 1:10 From commands to intent 2:05 The data layer is your edge 3:38 RAG reads, memory writes 4:02 Memory promotion: what's worth keeping 5:01 Demo: a mortgage agent that remembers 9:48 Guardrails: what never gets promoted 11:53 What agent memory is 13:03 Short-term, long-term and shared memory 13:43 Where to store memories 14:27 Building memory as a discipline 16:01 The context card 17:50 Models are shared, memory is yours Wojciech Pluta https://www.oracle.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!
