10조 개의 토큰, 단 한 번의 결정: 브라질 최대 AI 플랫폼을 지탱하는 라우터

하이라이트

• 아뎁타는 외부 투자나 토큰 보조금 없이 7천만 달러가 넘는 반복 매출을 달성하며 흑자를 기록하고 있다.

• 출시 후 6개월 만에 2만 5천 명의 고객을 확보했으며 첫 행사에 4,000명이 참석했다.

• 자체 구축한 라우터는 프롬프트와 게이트웨이 사이에 위치해 최적의 모델을 자동으로 선택하여 비용을 대폭 절감하고 프런티어 모델 수준의 품질을 유지한다.

• 신제품 마에스트로는 완전한 에이전트 기능을 제공하여 강도 높은 지식 업무를 처리하고 회사 전체를 위한 에이전트 생성을 지원한다.

• 농업 컨설팅 기업인 고객 펠리에는 에이전트 기반 CRM을 구축하여 서비스 용량을 두 배로 늘리고 20만 달러가 넘는 비용을 절감했다.

타임라인

1. 00:00:00 - 02:40:00

   아뎁타의 초기 성장과 지식 노동 플랫폼 구축

   초기 AI 시장에서는 기술은 존재하지만 실제 활용법을 모르는 역량 격차가 존재했다. 아뎁타는 컨텍스트 빌딩과 프롬프트 빌더 등 다양한 기능을 묶어 교육과 함께 제공하는 방식을 택했다. 이 교육 기반 마케팅과 플랫폼은 첫 행사에서 4천 명을 모으는 등 폭발적인 반응을 이끌어냈다.

   • 브라질 기업인 아뎁타는 외부 투자와 보조금 없이 7천만 달러 이상의 반복 매출과 흑자를 기록했다.
   • 2023년 출시 당시 AI 활용법을 모르는 사용자들을 위해 지식 노동에 특화된 플랫폼을 만들었다.
   • 출시 후 6개월 만에 2만 5천 명의 고객을 확보하며 가파른 성장을 이루었다.
2. 02:40:00 - 07:58:00

   모델 선택의 복잡성 해결과 AI 게이트웨이 도입

   모델 경쟁이 치열해지면서 제공업체별 대시보드와 API 규칙 관리 등 유지보수가 복잡해졌다. Vercel과의 깊은 파트너십을 통해 단일 대시보드에서 모든 제공업체를 관리하게 되었다. 또한 사용자 피드백을 모아 만든 골든 데이터셋을 라우터에 적용하여 비용을 낮추고 프런티어 모델 수준의 품질을 유지했다.

   • 다양한 AI 모델이 등장하면서 어떤 모델을 언제 써야 하는지 결정하는 새로운 격차가 발생했다.
   • 프롬프트와 게이트웨이 사이에 자체 라우터를 구축하여 골든 데이터셋을 기반으로 최적의 모델을 자동 호출한다.
   • Vercel의 AI 게이트웨이를 도입하여 복잡한 개별 API 계약과 관측 가능성 문제를 해결했다.
3. 07:58:00 - 15:42:00

   자체 모델 운영과 신제품 마에스트로의 등장

   대부분의 프롬프트를 동일한 품질로 처리할 수 있는 자체 모델을 백엔드에 도입해 지속적으로 고도화하고 있다. 또한 제품 주도 성장만으로는 부족하고 직접 상주하기에는 규모가 작은 중간층 기업들을 위해 원격 파견 엔지니어 개념을 적용했다. 이를 통해 농업 컨설팅 기업이 서비스 용량을 두 배로 늘리고 20만 달러를 절감하는 구체적인 성과를 만들어냈다.

   • 라우터와 게이트웨이 구조를 넘어 오픈소스 기반의 자체 모델을 구축해 상호작용을 통해 매일 학습하고 있다.
   • 복잡한 지식 업무와 회사 전체를 위한 에이전트를 생성하는 신제품 마에스트로를 개발했다.
   • PLG와 상주 엔지니어 사이의 누락된 중간층을 메우기 위해 한 명의 엔지니어가 60개 회사를 돕는 원격 파견 엔지니어 모델을 도입했다.