메모리 인식 에이전트를 활용한 자금세탁 방지(AML) — 나초 마르티네즈, 오라클
원제 · Memory-Aware Agent Harnesses for Anti-Money Laundering — Nacho Martinez, Oracle
핵심 요약
AI 에이전트의 성능 향상과 자율적 작업 수행을 위해서는 프런티어 모델 자체보다 메모리와 도구를 제어하는 에이전트 하네스 설계가 핵심이다.
하이라이트
메모리, 도구 사용, 인식 기능을 포함한 스캐폴딩인 에이전트 하네스는 AI 에이전트의 성능을 좌우하는 핵심 구성 요소이다.
컨텍스트 윈도우의 크기가 커질수록 LLM의 추론 성능은 오히려 저하되므로, 작고 관련성 높은 상태를 유지하는 것이 중요하다.
자금세탁 방지(AML) 워크숍 실습 환경은 workshopwaitingroom.com에서 GitHub 계정으로 가입하여 Codespaces를 통해 이용할 수 있다.
에이전트 루프의 최대 반복 횟수는 8회이며, 각 반복마다 최대 60초 동안 추론하도록 설정되어 있다.
시맨틱 캐시와 벡터 기반 스킬 디스커버리를 활용하면 API 호출 비용을 절감하고 컨텍스트 윈도우의 효율성을 높일 수 있다.
타임라인
워크숍 소개 및 에이전트 하네스 개요
발표자는 세션 진행 방식과 실습 환경 접속 방법을 안내하며 워크숍을 시작한다. 은행을 배경으로 하여 다수의 의심스러운 거래와 분산 인출 패턴을 탐지하는 자금세탁 방지 시나리오를 소개한다. 최첨단 모델 자체에만 집중하기보다 에이전트를 통제하고 지원하는 하네스 구축의 중요성을 강조한다.
- 이번 세션은 AI 에이전트 하네스와 금융권 자금세탁 방지(AML) 유스케이스를 다룬다.
- 참석자들은 workshopwaitingroom.com을 통해 GitHub Codespaces에서 실습 환경에 접속할 수 있다.
- 에이전트가 수십 시간 동안 자율적으로 문제를 해결하기 위해서는 컨텍스트 윈도우와 메모리 한계를 극복할 기능 구현이 필요하다.
에이전트 스택과 데이터 레이어의 중요성
데이터 레이어의 구성 요소인 에이전트 루프, 게이트웨이, 메모리, 도구 등을 설명한다. 챗봇이나 단순 RAG를 넘어 자동화와 자율성을 모두 갖춘 에이전틱 시스템의 활용을 제안한다. 또한 파일 시스템 기반의 쓰기 충돌 문제를 지적하며 상황에 따라 적절한 데이터베이스와 파일 저장 방식을 선택해야 한다고 설명한다.
- 에이전트 스택은 애플리케이션, 모델, 인프라, 그리고 직접 제어할 수 있는 데이터 레이어로 구성된다.
- 현대적인 AI 시스템은 LLM 기반 워크플로우의 자동화와 AI 에이전트의 자율성이 결합된 형태이다.
- 다수의 에이전트가 파일에 동시에 쓰기를 시도할 때 발생하는 일관성 문제를 해결하기 위해 데이터베이스의 트랜잭션 개념이 필요하다.
메모리 구조와 컨텍스트 엔지니어링
에이전트 메모리 레이어의 설계 방식을 단기 기억과 장기 기억으로 나누어 분석한다. 토큰 수가 늘어날수록 성능이 저하되는 한계를 극복하기 위해 컨텍스트 압축 및 요약 방식을 소개한다. 아울러 수백 개의 스킬과 도구를 벡터 유사도 검색으로 동적 디스커버리하여 컨텍스트 윈도우의 효율성을 유지하는 방법을 설명한다.
- 메모리는 단기 기억 역할을 하는 컨텍스트 윈도우와 일화, 절차, 의미 기억을 포함하는 장기 기억으로 나뉜다.
- 어텐션 매트릭스가 커질수록 모델의 문제 해결 정확도가 떨어지므로 요약과 압축 기법을 사용한다.
- 벡터화된 툴박스와 스킬박스를 활용하면 수많은 도구를 한 번에 로드하지 않고 관련성 높은 도구만 동적으로 검색할 수 있다.
실습 환경 시연 및 질의응답
실제 브라우저 화면을 통해 AML 자율 에이전트 애플리케이션의 동작 방식을 시연한다. 데이터베이스와 연동되어 고객 정보를 분석하고 증거를 검토하는 과정을 보여준다. 이어 청중과의 질의응답을 통해 메모리 충돌 방지, 예산 관리, 하이브리드 검색의 장점 등에 대해 부연 설명하고 실습을 독려하며 세션을 마친다.
- 배포된 애플리케이션은 24시간 백그라운드에서 실행되며 의심스러운 거래를 탐지해 의심활동보고서(SAR)를 처리한다.
- 시맨틱 캐시를 적용하여 동일한 요청의 재계산을 방지함으로써 고비용의 API 호출을 경제적으로 이용할 수 있다.
- 스킬과 도구의 사전 계산된 임베딩을 결합한 하이브리드 검색으로 검색 품질을 향상시킨다.
설명
The model is the part you can't change. The harness around it is where you can make real gains. Nacho Martinez walks through the full agent stack (agent loop, short- and long-term memory, context engineering, the toolbox and skillbox patterns, skill distillation and continual learning) and applies it to an autonomous agent that flags suspicious bank transactions around the clock. 🎟️ Join us at the next one: AIE CODE Summit → https://aie.codes Speaker Nacho Martinez — LinkedIn: https://www.linkedin.com/in/jasperan/ GitHub: https://github.com/jasperan Oracle — https://www.oracle.com Workshop: https://workshopwaitingroom.com Timestamps 0:00 Workshop setup 2:07 Intro: Nacho Martinez 2:57 Agenda 4:57 The use case: an AML agent for a mid-sized bank 5:57 The agent stack 8:31 Agentic systems = automation + autonomy 9:16 What is an AI agent? 11:06 Why the harness matters more than the model 13:21 Files vs. databases 15:56 Agent memory: short-term, episodic, procedural, semantic 19:01 Context summarization vs. compaction 19:46 The agent loop 20:51 Toolbox & skillbox patterns 22:30 Skill distillation 24:15 How a frozen model gets better: continual learning 26:10 Instruction hierarchy 27:05 Workshop UI walkthrough 33:35 Q&A: Episodic memory & conflicts 34:35 Q&A: Skills, caching & context budgets 40:49 Q&A: Keep your memory layer simple 43:29 Q&A: Pre-built SQL vs. dynamic queries 46:14 Hybrid search (semantic + keyword) 47:39 Build small custom harnesses
