乱立を防ぐコントロール：MercorがVercelで数百人のビルダーの力を解き放った方法
원제 · Control Without the Sprawl: How Mercor Unlocked Hundreds of Builders with Vercel
핵심 요약
MercorはVercel PassportやAI Gatewayなどのプラットフォームのデフォルト機能を活用することで、セキュリティや認証のボトルネックを解消し、数百人のビルダーによる2,000件以上のプロジェクトの急速なスケーリングを実現した。
하이라이트
Mercorのプロジェクト数は、昨年の十数件未満から2,000件に増加している。
Vercel Passportの導入により、ビルダーは独自の認証コードを書く必要がなくなり、数日間で何百ものプロジェクトに接続された。
AI Gatewayへの切り替えにより、最初の10日間で8,000万件のリクエストと約630億トークンが処理された。
LLMを評価するためのバッチ採点実行の速度は、12時間から2時間に短縮された。
GLM 5.3への推論切り替えにおいて、面倒な調達プロセスを経ることなく、火曜日までに1分あたり3億トークンの割り当てを受けた。
타임라인
急増するプロジェクトとセキュリティの課題
Mercorは医師や弁護士などの専門家とフロンティア・ラボを繋ぐデータを提供しており、成長・ビジネスチームからのプレッシャーにより独自のソリューションの出荷が進んだ結果、露出面が拡大した。誰がどのようにアクセスできるかという課題に対し、セキュリティゲートで全てをブロックする手法は回避策を生む原因となるため、プラットフォームのデフォルト機能に頼る方針へと転換した。
- Mercorのプロジェクト数は昨年から2,000件に達した。
- プロジェクトの大部分はエンジニアリング組織以外のチームによって所有されている。
- すべてのプロジェクトに手動でセキュリティレビューを義務付けることは、ボトルネックとなり現実的ではない。
Vercel Passportによる認証とアクセスの自動化
アプリケーションをリリースする際の最初の課題であるアイデンティティ管理に対し、Vercel Passportを導入して認証コードを書く必要性を排除した。アイデンティティチームが構築したオーディエンスツールを活用し、必要な人数に応じて数秒でアクセスをプロビジョニングし、終了時には自動でオフボーディングを行う仕組みを構築したことで、セキュリティとエンジニアリング、グロースの各チームの満足度が向上した。
- Passportの導入により、各アプリケーションで個別に構築していた認証レイヤーが単一のIDPに置き換えられた。
- 社外の10万人以上の専門家を含むアクセス権のプロビジョニングが数秒で完了する。
- エンゲージメント終了後はIDPから自動でグループが削除され、クリーンなオフボーディングが実現した。
AI Gatewayによる推論の効率化とコスト管理
10万人の専門家がコアワークフローのあらゆる部分でLLMを使用しており、モデル間の迅速な切り替えが不可欠であった。AI Gatewayにより個別の推論プロバイダーとの面倒な調達プロセスが不要になり、GLM 5.3への切り替えもスムーズに行われた。さらに、すべてのキーにガードレールや仮想キーの配布、リクエストレベルのアトリビューションを適用し、財務部門向けの明確な利用状況の可視化と予算強制を可能にした。
- AI Gatewayの導入により、オープンソースモデルとクローズドソースモデルに対して単一のエンドポイントが提供された。
- 最初の10日間で8,000万件のリクエスト、約630億トークンを処理し、バッチ採点速度が12時間から2時間に短縮された。
- すべてのAPIキーにスパン上限、有効期限、所有者が設定され、データ保持ゼロや請求書の単一化が実現した。
エージェントの急増に対するセキュリティとガバナンス
エージェントは非常に優秀なインターンのように疲れることなく目的達成へ突き進むため、ユーザーの権限をそのまま継承するとSlackのパブリックチャンネルや財務文書などの機密データが広範囲に漏洩するリスクがある。そのため、採点ジョブなどの用途に合わせたスコープの絞り込みや、ホワイトリストによるモデル制限、有効期限の設定といった厳格な制御が不可欠となる。
- セキュリティや不正対策、モノエージェントなど、組織内で多くのエージェントが構築されている。
- エージェントへのアクセス権やスコープを厳密に管理しない場合、機密情報が意図せず共有されるリスクが生じる。
- エージェント専用のゲートウェイキーを発行し、呼び出し可能なモデルのホワイトリスト化、有効期限、利用上限額を設定して暴走を防ぐ必要がある。
セキュアなデフォルトによる持続可能なスケーリング
2,000のプロジェクトと数十億のトークンを扱う中で、セキュリティチームがビジネスの成長と並行して手動で規模を拡大することは不可能である。エージェントの活用とその保護を進めるとともに、Vercelが提供するプラットフォームの組織機能を活用することで、予期せぬコンテンツの一般公開を防ぎつつ、開発者がスムーズに開発を行える環境を維持している。
- 最も重要であるのは、セキュアなパスをビジネス全体ですべての開発者にとって最も簡単なパスにすることである。
- 何百ものアプリをリリースする多様なチームに対して、認証やセキュリティレビューを個別に手動で行うことは持続不可能である。
- Vercelが提供する組織機能やセキュアなデフォルトを活用することで、開発者の邪魔をせずに企業の規模拡大を維持できる。
설명
Vercel.com