10 Trillion Tokens, One Decision: The Router Behind Brazil’s Largest AI Platform

하이라이트

• Adaptaは外部からの資金調達を行わず、黒字経営を維持しながら年間経常収益が7,000万ドル規模に達している。

• 初期の教育型マーケティングの実施により、ローンチから6ヶ月で25,000人の顧客を獲得した。

• Vercel AI Gatewayと独自のルーターを組み込み、プロンプトの内容に応じて最適なモデルを自動選択することでコストを大幅に削減している。

• ユーザーのフィードバックから作成される「ゴールデン・データセット」がルーターの選択精度を毎日向上させている。

• リモート導入エンジニアの仕組みにより、1人のエンジニアが同時に60社のシステム導入を支援する。

타임라인

1. 00:00 - 02:40

   Adaptaの設立と初期の事業展開

   GPT-3.5の登場初期から存在していたモデルの性能と実用性のギャップに着目し、ナレッジワーク用のプラットフォームとプロンプトビルダーを提供した。初回のイベントには4,000人が参加し、マイクロソフトやAWSなどがスポンサーとして名を連ねた。強固なキャッシュフローを基盤に、急速な顧客拡大を実現した。

   • ブラジルのスタートアップであるAdaptaは、外部資本やトークンの補助金なしで黒字を維持している。
   • AIの能力と実際の活用方法のギャップを埋めるため、ナレッジワークに特化したプラットフォームを構築した。
   • ツール提供にとどまらず使い方も教える教育ベースのマーケティングにより、ローンチから6ヶ月で25,000人の顧客を獲得した。
2. 02:40 - 07:58

   モデル非依存のルーターとAI Gatewayによる最適化

   モデルの選択肢が増える中でどのタスクにどのモデルを使うべきかという課題が生じ、プロンプトとゲートウェイの間にルーターを配置する仕組みを導入した。ユーザーのフィードバックから学習するゴールデン・データセットにより、コストを大幅に抑えつつフロンティアモデルと同等の品質を維持している。Vercel AI Gatewayの導入によって個別の契約管理やオブザーバビリティの混乱が解消された。

   • 多様なモデルの台頭に対応するため、ユーザーが好みのモデルを選択できるモデル非依存のプラットフォームを構築した。
   • Vercel AI Gatewayの初期顧客として、プロバイダーごとの複雑なAPI管理やメンテナンスコストを削減した。
   • ゴールデン・データセットに基づく独自のルーターが、プロンプトに応じて最適なモデルを自動選択する。
3. 07:58 - 15:42

   自社モデルの育成とリモート導入エンジニアによる次世代展開

   ルーター機能の拡張に加え、オープンソースベースの独自モデルを育成し、日々のやり取りを通じて賢くなる仕組みを構築している。プロダクト単体では複雑すぎる中小企業のミッシング・ミドル層に対し、リモート導入エンジニアを通じて価値を提供している。具体的な顧客事例では、ドメイン知識をAIに統合することで業務効率と収益性が飛躍的に向上した。

   • オープンソースモデルをベースにした独自の自社モデルを開発し、日々のインタラクションから継続的に学習させている。
   • プロダクト主導の成長だけでは価値を引き出せない中小企業層に向けて、1人で60社を支援する「リモート導入エンジニア」を導入した。
   • 農業コンサルタントの事例では、専用のエージェント型CRMの構築によりサービス能力が倍増し、20万ドル以上のコスト削減を達成した。