모두가 같은 AI 모델을 씁니다. 에이전트를 차별화하는 것은 이것입니다 - 리치먼드 알라케(Richmond Alake), 오라클

하이라이트

• 동일한 AI 모델을 사용하는 에이전트 환경에서 차별점을 만드는 핵심 요소는 데이터와 메모리로부터 학습하는 지능 평면(Intelligence Plane)이다.

• 지능 평면 기반의 에이전트는 3만 2천 개의 토큰만 사용하여 단순 에이전트의 20만 개 대비 압도적인 토큰 경제성을 기록했다.

• 온톨로지와 시맨틱 계층을 적용한 에이전트는 단순 키워드 검색 방식에 비해 금융 및 미션 크리티컬 워크로드에서 결정적인 정확도 향상을 제공한다.

• 에이전트 메모리는 단기 및 장기 기억뿐만 아니라 시맨틱, 에피소드, 절차적, 작업 기억 등의 인지 기능과 구현 방식으로 분류된다.

• 에이전트 메모리를 파이썬 패키지로 패키징하면 복잡한 컨텍스트 카드 생성 과정을 자동화하고 파인튜닝용 트레이스를 효과적으로 수집할 수 있다.

• 메모리 라우팅, 임베딩, 재순위화 모델을 활용한 지속 학습은 품질 향상과 지연 시간 단축 효과를 동시에 제공한다.

타임라인

1. 00:00 - 09:34

   에이전트 아키텍처의 핵심 키워드와 발전 단계

   발표 초반부에서는 에이전트 메모리의 분류 체계와 제어 플레인의 개념을 짚어보고, 제2차 세계 대전 당시 암호 해독 사례를 통해 정보와 지능의 차이를 설명한다. 모든 팀이 동일한 모델을 보유하더라도 데이터 해석과 메모리 활용 방식에 따라 고유한 차별점이 만들어진다.

   • 에이전트 메모리는 정보를 유지, 재사용, 상기, 정교화하는 4R 메커니즘을 기반으로 분류된다.
   • 제어 플레인은 에이전트의 관리, 도구 접근, 정책 및 가드레일을 통제하는 중앙 집중식 시스템이다.
   • 인텔리전스 플레인은 프롬프트와 제어 단계를 넘어 데이터와 메모리로부터 실제로 학습하는 에이전트 시스템을 구축한다.
2. 09:34 - 17:07

   지능 평면 구축의 효과와 데모 분석

   참조 아키텍처를 바탕으로 한 에이전트 스택의 구조를 설명하고 실제 채팅 데모를 시연한다. 지능 평면이 적용된 에이전트는 토큰 비용과 지연 시간을 대폭 절감하는 동시에 온톨로지와 시맨틱 계층을 통해 답변의 정확도를 극대화한다.

   • 지능 평면 기반의 검증된 분석가 에이전트는 99%의 정답률과 함께 3만 2천 개의 토큰만을 소비했다.
   • 온톨로지 레이어는 단순 키워드 검색의 한계를 극복하고 거래 상대방 파악 등의 정확도를 높인다.
   • 시맨틱 레이어는 금융 부문과 같이 오차 범위가 치명적인 워크로드에서 잘못된 답변을 방지한다.
3. 17:07 - 25:38

   메모리 엔지니어링과 지속 학습의 구현

   마지막 세부 영역에서는 메모리를 데이터로 취급하고 해자로 소유해야 하는 이유를 강조한다. 프라이빗 에이전트 팩토리와 프라이빗 추론 인프라를 통해 개발자가 직접 인텔리전스 플레인을 구성하고 지속적인 학습 루프를 완성하는 방법을 제시하며 마무리한다.

   • 오라클은 메모리 엔지니어링의 복잡성을 해결하기 위해 에이전트 메모리를 파이썬 패키지로 제공한다.
   • 심층 데이터 보안은 사용자의 원시 액세스 권한을 데이터 계층으로 전파하여 에이전트의 접근을 제한한다.
   • 메모리 라우팅, 임베딩, 재랭커 모델의 파인튜닝은 개발자가 즉시 적용할 수 있는 지속 학습의 출발점이다.