AI 에이전트가 기억해야 할 내용을 결정하는 방법 - 보이치에흐 플루타(Wojciech Pluta), 오라클

Highlights

• AI 에이전트 스택에서 모델과 인프라 레이어는 상품화된 반면, 데이터 레이어는 독점적인 경쟁 우위를 제공한다.

• RAG는 유용한 읽기 경로를 제공하지만, 대화 이후 유지할 내용을 결정하는 쓰기 경로인 메모리 시스템이 필요하다.

• 메모리 승격 파이프라인은 후보 의미 분류, 기존 레코드 비교, 증거 확인, 하네스의 승인 또는 거부 단계를 거친다.

• 오라클 에이전트 메모리 패키지는 단 한 줄의 코드로 컨텍스트 카드를 생성하여 에이전트의 인지 부하를 줄인다.

• 오라클 AI 데이터베이스는 ACID 보장과 다중 쓰기 작업 처리를 통해 파일 트리 관리의 복잡성을 없애고 에이전트 메모리를 안정적으로 지원한다.

Timeline

1. 00:56 - 03:37

   RAG에서 메모리 시스템으로의 패러다임 전환

   과거 명령어 중심의 인터페이스는 의도 기반 시스템으로 발전했으며, 이에 따라 적시 소프트웨어를 위한 연속성 유지가 중요해졌다. 모델과 인프라 레이어가 상품화된 상황에서 기업의 데이터 레이어는 차별화를 만드는 핵심 자산이다. 하네스는 모델을 둘러싼 코로서 런타임 결정과 검증을 책임진다.

   • AI 스택에서 데이터 레이어는 경쟁 우위를 확보할 수 있는 고유 영역이다.
   • RAG는 읽기 경로를 제공하지만 대화 상태의 연속성을 위해 메모리 시스템이 필수적이다.
   • 에이전트는 모델과 런타임 결정을 수행하는 하네스의 결합으로 구성된다.
2. 03:37 - 11:53

   메모리 승격 파이프라인과 데모 시연

   대화 과정에서 유지할 가치가 있는 정보를 발견하면 나중에 사용하기 위해 기록으로 승격해야 한다. 모기지 신청 브리프 예시를 통해, 정중한 태도나 사용자의 시맨틱 선호도가 데이터베이스에 저장되고 이후 세션에서 다시 호출되는 과정을 확인할 수 있다. 또한 파괴적인 명령이나 무분별한 정보 유입을 막기 위해 결정 모델과 승격 게이트가 작동한다.

   • 메모리 승격은 후보의 의미 분류, 레코드 비교, 증거 확인 단계를 거쳐 이루어진다.
   • 시맨틱 선호도를 시스템에 저장하면 새로운 세션에서도 이전 설정이 유지된다.
   • 하네스 내부에 위치한 승격 제어 기능과 가드레일은 부적절한 명령이나 오염을 방지한다.
3. 11:53 - 18:56

   에이전트 메모리의 구조와 오라클 데이터베이스의 역할

   에이전트 메모리를 구축할 때는 무엇을 승격시키고 차단할지 결정하는 것이 중요하며, 잘못된 승격은 저장소 오염을 유발한다. 오라클은 단 한 줄의 코드로 토큰 예산을 관리하고 컨텍스트 비대화를 줄이는 에이전트 메모리 패키지를 제공한다. 데이터베이스 기반의 접근은 최종 사용자 격리, 이미지 처리, 멀티 데이터 타입 통합을 지원하여 개발자의 인지 부하를 크게 낮춘다.

   • 에이전트 메모리는 단기, 장기, 공유 메모리로 구분된다.
   • 오라클 에이전트 메모리 패키지는 단 한 줄의 코드로 컴팩트한 컨텍스트 카드를 제공한다.
   • 오라클 AI 데이터베이스는 ACID 보장과 멀티 데이터 타입 엔진을 통해 에이전트 메모리를 안정적으로 통합 관리한다.