AI 에이전트가 관리자 없이 스스로 일할 수 있는 시점을 아는 법 — 에반 코모스, 코인베이스
원제 · How to Know When an AI Agent Can Work Unsupervised — Evan Kormos, Coinbase
핵심 요약
에이전트가 관리자 없이 스스로 일할 수 있는 시점을 판단하려면, 겉으로는 결정론적인 DAG와 DCG 구조를 유지하고 안쪽으로는 체계적인 평가(evals)를 통해 신뢰 임계값에 도달했는지 확인해야 한다.
하이라이트
정책은 조직 내에서 업무가 처리되는 방식과 위험 관리 및 준법 감시 규칙을 설정하는 시스템 프롬프트 역할을 한다.
방향성 비순환 그래프(DAG)는 자체로 돌아가는 루프 없이 앞으로 나아가는 흐름을 나타내며 워크플로와 종속성을 표현한다.
방향성 순환 그래프(DCG) 내부의 루프는 작업 결과가 충분히 훌륭해질 때까지 피드백을 받아 반복 수정하는 과정을 거친다.
에이전트 도입으로 인해 흐름 전반에서 작업 볼륨과 속도가 변화하며, 통제 장치를 유지하면서 병렬 처리 용량을 추가할 때 운영 가시성이 중요해진다.
에이전트의 품질을 신뢰하기 위해 대표성 있는 데이터셋을 구축하고 평가를 반복적인 일련의 과정으로 실행하며 런타임 로그와 결합한다.
첫날에는 감독 하에 사람이 수동으로 검증하다가, 측정된 신뢰도가 정책 임계값에 도달하면 샘플링 단계로 나아가 사람이 일부 조각만 살피게 된다.
타임라인
정책과 빌드 및 런타임 상태의 분리
20년 동안 소프트웨어를 설계하고 코인베이스에서 활동해 온 발표자는 에이전트 신뢰와 정책 기반 워크플로를 설명하기 위해 정책의 개념부터 정의한다. 정책은 조직 내에서 업무가 처리되는 방식을 규정하며 '해야 한다', '해도 된다' 같은 언어로 규칙을 만든다. 이러한 정책과 끊임없이 움직이고 변화하는 실제 실행 시스템을 분리하는 것이 출발점이다.
- 정책은 조직 내 위험 관리와 준법 감시를 포함한 규칙을 설정하는 최초의 시스템 프롬프트 역할을 한다.
- 우리가 가장 먼저 해야 할 일은 정책과 실제로 실행되는 시스템, 즉 빌드 상태와 런타임 상태를 분리하는 것이다.
- 에이전트는 사람, 프로세스, 기술을 아우르는 운영 모델 속에서 프로세스와 만나는 지점에 위치한다.
DAG와 DCG를 활용한 워크플로 설계
워크플로를 도식화하면 승인이나 본인 인증 같은 통제 절차를 유지하면서 병렬로 작업을 처리할 수 있다. 아파치 에어플로우 같은 도구가 파이썬 코드로 DAG를 표현하는 데 사용된다. 또한 LangChain이나 LangGraph 같은 도구는 작업이 충분히 훌륭해질 때까지 피드백을 통해 정제하는 DCG 상태를 관리하는 데 도움을 준다.
- 방향성 비순환 그래프(DAG)는 루프 없이 앞으로 나아가는 흐름으로 상업 대출이나 토큰 상장 같은 워크플로를 표현한다.
- 방향성 순환 그래프(DCG)는 코드 리뷰처럼 작업이 통과할 만큼 좋아질 때까지 반복 수정하는 내부 루프를 나타낸다.
- 에이전트를 도입하면 코드 리뷰나 설계 속도가 빨라지면서 흐름 전반에서 볼륨이 이동하므로 운영 가시성이 매우 중요해진다.
입력 가변성과 평가를 통한 신뢰 구축
더 나은 품질의 입력은 더 낮은 연산 비용으로 더 좋은 결과물로 이어진다. 에이전트의 신뢰성을 확보하기 위해 단순히 정확한 출력만 비교하는 것이 아니라, 대표성 있는 데이터셋을 구축하고 평가를 반복적인 과정으로 실행해야 한다. 이는 기존 소프트웨어의 단위 테스트를 보완하는 신뢰 메커니즘 역할을 한다.
- AI 엔지니어링의 한 가지 과제는 입력과 출력의 가변성이다.
- 에이전트에 DAG 상태를 주입하여 자신이 큰 그림 속 어디에 속하는지 알게 해야 한다.
- 루프의 신뢰성은 결국 검증 단계의 신뢰성만큼만 유효하므로 통계적 분석과 런타임 로그를 결합한 평가가 필요하다.
에이전트 주도권 이양과 자율성 단계
대출 심사 등의 업무에서 사람이 주도하는 것과 에이전트가 주도하는 것의 가치를 비교한다. 초기에는 도메인 전문가들과 함께 좋은 결과란 무엇인지 정의하고 수동으로 검증하며, 신뢰도가 임계값에 도달하면 사람이 전체가 아닌 일부 조각만 살피는 샘플링 단계로 전환한다. 최종적으로 품질은 팀 스포츠이며 에이전트는 운영 전반의 속도를 가속화한다.
- 정책 확인이 쉽고 제한된 루프 안에서 실행되며 트레이스가 가능한 노드가 자동화에 적합하다.
- 첫날에는 감독 하에 사람이 수동으로 검증하다가 측정된 신뢰도가 정책 임계값에 도달하면 샘플링 단계로 나아간다.
- 최종적으로 겉으로는 결정론적으로 유지하고 안쪽으로는 적응형으로 만들어 운영 모델 전반의 속도를 가속화한다.
설명
Evan Kormos, a player-coach at Coinbase with 15 years in enterprise financial services, lays out a practical way to bring agents into policy-driven, regulated workflows. He models processes as DAGs and loops, explains why a loop is only as trustworthy as its check, and shows how evals and traces become a new confidence mechanism. Agents then move through three stages: fully supervised, then sampled, then humans handling only exceptions. Chapters: - 00:00 Policy is the original system prompt - 02:53 Where agents fit: people, process, technology - 03:49 Workflows as DAGs - 05:31 Inside a node: the loop - 07:16 Exception flows and bottlenecks - 08:59 Quality inputs, quality outputs - 10:43 The loop is only as good as the check - 11:47 Evals as a confidence mechanism - 12:39 Which steps should an agent own? - 14:29 Supervised, then sampled, then exceptions only - 15:31 Takeaways Evan Kormos — https://www.coinbase.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!