Kontrolle ohne Wildwuchs: Wie Mercor mit Vercel Hunderte Entwickler freigesetzt hat

하이라이트

• Mercor skalierte innerhalb eines Jahres von weniger als einem Dutzend auf 2.000 Projekte, die überwiegend von nicht-technischen Teams betrieben werden.

• Der Umstieg auf Vercel AI Gateway ermöglichte die Verarbeitung von 80 Millionen Anfragen und rund 63 Milliarden Token in den ersten zehn Tagen.

• Die Bewertungszeit für einen Batch-Lauf zur Evaluierung von LLMs sank durch das AI Gateway von 12 Stunden auf zwei Stunden.

• Vercel Passport ersetzt individuelle Authentifizierungslösungen durch einen zentralen Identitätsanbieter mit automatisierter Bereitstellung und Entzug von Expertenzugriffen.

• Jeder API-Schlüssel erhält restriktive Leitplanken wie Ausgabenlimits, Ablaufdaten und zugewiesene Verantwortliche sowie standardmäßige Zero Data Retention.

타임라인

1. 00:00 - 04:50

   Skalierungsprobleme und Identitätsmanagement bei 2.000 Projekten

   Wachstums- und Vertriebsteams erzeugten enormen Druck auf die Entwicklung, was zu unkontrollierten Eigenlösungen und einer vergrößerten Angriffsfläche führte. Statt jeden Dienst manuell zu prüfen, setzt das Unternehmen auf plattformweite Standards für Identität. Das interne Audience-Tool steuert in Kombination mit Vercel Passport den temporären Zugriff von Zehntausenden externen Experten und entzieht die Berechtigungen nach Auftragsende automatisch.

   • Mercor verbindet Fachexperten mit Frontier Labs und steigerte die Projektanzahl von unter einem Dutzend auf 2.000.
   • Manuelle Sicherheitsprüfungen für jedes einzelne Projekt erweisen sich als untragbarer Flaschenhals für nicht-technische Teams.
   • Vercel Passport bündelt die Authentifizierung über einen zentralen Identitätsanbieter ohne Reibungsverluste.
2. 04:50 - 08:23

   Inferenz-Beschleunigung und Kontrolle durch AI Gateway

   In den ersten zehn Tagen nach der Umstellung auf das AI Gateway bewältigte Mercor 80 Millionen Anfragen und 63 Milliarden Token. Die Evaluierungszeit für LLM-Batch-Läufe schrumpfte von zwölf auf zwei Stunden. Zudem vereinfachte sich die Beschaffung neuer Modelle drastisch, sodass Kapazitäten wie 300 Millionen Token pro Minute für GLM 5.3 ohne langwierige Vertragsprüfungen bereitstanden. Die zentrale Abrechnung und detaillierte Kostenaufschlüsselung pro Nutzer und Projekt schaffen vollständige Finanztransparenz.

   • Rund 100.000 Experten nutzen Large Language Models für Kern-Workflows, Qualitätskontrolle und Datengenerierung.
   • Das Vercel AI Gateway verarbeitet offene und geschlossene Modelle über einen einzigen Endpunkt.
   • Virtuelle API-Schlüssel mit festen Ausgabenlimits, Ablaufdaten und Zero Data Retention sichern die Inferenz ab.
3. 08:23 - 13:15

   Sicherheitsarchitektur für autonome KI-Agenten und Plattform-Standards

   Da verschiedene Teams im Unternehmen autonome Agenten entwickeln, besteht die Gefahr unkontrollierter Datenabfragen oder Sandbox-Ausbrüche. Spezifische Gateway-Schlüssel und Ausgabenlimits verhindern finanzielle und sicherheitstechnische Ausreißer. Das Unternehmen setzt konsequent auf zentrale Vercel-Standards, um das Wachstum bei 2.000 Projekten und Milliarden Token abzusichern, ohne Entwickler auszubremsen.

   • Autonome KI-Agenten erhalten isolierte Gateway-Schlüssel, Ablaufdaten und strikte Modell-Whitelists.
   • Berechtigungen von Agenten werden strikt von menschlichen Nutzerrechten getrennt, um Datenlecks zu verhindern.
   • Plattform-Standards machen den sicheren Weg zum schnellsten Weg für alle Entwickler im Unternehmen.