코딩부터 지식 노동 에이전트까지 — Karan Vaidya, Composio

소프트웨어 공학 분야는 에이전트가 신뢰하고 실행할 수 있는 시스템이 이미 마련되어 있었다. 반면 지식 노동 영역에는 그러한 토대가 전혀 존재하지 않으며, 이것이 두 분야 간의 거대한 간극을 만든다. 에이전트의 성능이 향상되었음에도 지식 노동에서 여전히 맹구처럼 작동하는 이유가 바로 여기에 있다.

코딩 에이전트는 코드베이스라는 단일한 진실의 원천에서 출발한다. 지식 노동 에이전트 역시 모든 도구와 로그인이 모이는 중앙화된 토대와 과거의 변경 기록을 추적할 수 있는 기록 레이어가 필수적이다. 이를 통해 에이전트는 매번 빈 상태에서 시작하는 대신 과거의 성공 사례를 재현하고 신뢰를 쌓을 수 있다.

시니어 엔지니어의 머릿속에 있는 시스템 지도와 회사 고유의 일 처리 방식은 코드베이스 전체에 담겨 있다. 지식 노동 에이전트 역시 단순한 데이터 접근을 넘어 회사가 일해 온 방식과 개별 사용자의 선호도를 반영하는 컨텍스트를 조회할 수 있어야 기업 운영 방식을 온전히 이해할 수 있다.

코드 작성 과정에는 실수를 즉시 잡아내는 수많은 검증 도구가 존재한다. 하지만 지식 노동 영역에서는 발송된 이메일이나 삭제된 데이터가 올바른 판단을 거쳤는지 검증하는 시스템이 없다. 따라서 실제 도구를 모방하는 샌드박스와 초안 비교 방식을 결합하여 현실화되기 전에 실수를 미리 잡아내야 한다.

소프트웨어 공학은 깃 리버트(git revert) 등을 통해 실수가 발생한 후에도 되돌릴 수 있는 가역성이 보장되므로 에이전트를 마음껏 실행할 수 있다. 반면 지식 노동에서는 삭제된 이메일이나 송금된 자금을 되돌릴 수 없는 경우가 많다. 따라서 결정론적 접근 통제와 자연어 정책 제어를 결합한 거버넌스를 통해 애초에 위험한 행동을 차단해야 한다.

모델 성능 경쟁의 시대를 지나 이제 진짜 과제는 에이전트 주변에 기록, 컨텍스트, 검증, 거버넌스, 가역성 인프라를 구축하는 것이다. 모델은 이미 준비되어 있으나 인프라가 없는 에이전트는 눈이 먼 상태로 일하는 것과 같다. 콤포시오는 이러한 인프라를 제공하여 지식 노동 영역에서도 에이전트의 마법이 일어나도록 지원한다.