Contrôle sans dispersion : comment Mercor a libéré des centaines de développeurs grâce à Vercel
원제 · Control Without the Sprawl: How Mercor Unlocked Hundreds of Builders with Vercel
핵심 요약
L'automatisation de l'identité et l'unification des points de terminaison d'inférence via des passerelles de plateforme permettent à des centaines de créateurs non-ingénieurs de livrer des applications sécurisées sans engorger les équipes techniques.
하이라이트
Mercor utilise désormais 2 000 projets contre moins d'une douzaine l'année précédente, la majorité appartenant à des équipes extérieures à l'ingénierie.
L'utilisation de Vercel Passport permet d'intégrer un fournisseur d'identité en amont qui dispense les créateurs d'écrire du code d'authentification.
L'adoption de l'AI Gateway a permis de traiter 80 millions de requêtes, soit 63 milliards de jetons, au cours des 10 premiers jours.
Le délai d'évaluation par lot d'un grand modèle de langage est passé de 12 heures à 2 heures grâce aux optimisations de la plateforme.
La conservation zéro des données est activée par défaut pour l'ensemble des fournisseurs d'inférence afin de garantir la sécurité des informations sensibles.
타임라인
Mise à l'échelle et gestion des identités avec Passport
Les équipes de croissance et commerciales subissaient une pression constante sur les produits, ce qui a poussé les collaborateurs à livrer leurs propres solutions. Pour éviter les goulots d'étranglement liés aux examens de sécurité individuels, l'organisation s'appuie sur des paramètres par défaut et sur un fournisseur d'identité unique. Cette architecture permet d'attribuer ou de révoquer l'accès des experts externes en quelques secondes sans compromettre la maintenabilité.
- L'entreprise met en relation des experts sectoriels avec des laboratoires de pointe soumis à une forte vélocité.
- Le nombre de projets est passé de moins d'une douzaine à 2 000, dont la majorité est gérée par des équipes hors ingénierie.
- Vercel Passport centralise l'authentification en amont et supprime le besoin de coder des couches d'identité personnalisées.
Capacité d'inférence et contrôle des modèles d'intelligence artificielle
La multiplication des projets exigeait une flexibilité accrue pour basculer rapidement d'un modèle à un autre sans multiplier les contrats complexes. L'utilisation d'une passerelle unique a permis d'allouer des centaines de millions de jetons par minute en quelques jours. De plus, la mise en place de clés virtuelles et la désactivation de la conservation des données garantissent un contrôle strict des coûts et de la confidentialité.
- Environ 100 000 experts utilisent des modèles de langage pour guider leurs projets et alimenter la stratégie de contrôle qualité.
- L'AI Gateway centralise les points de terminaison pour les modèles open source et fermés sous une interface unique.
- Chaque clé d'API intègre des limites de portée, une date d'expiration et une attribution budgétaire claire.
Sécurisation des agents autonomes et perspectives d'avenir
L'essor des agents autonomes, comparables à des stagiaires infatigables, introduit des risques liés à la fuite de données contextuelles ou à l'évasion de bacs à sable. Pour y parer, chaque agent reçoit sa propre clé de passerelle assortie d'une liste blanche de modèles autorisés et d'un plafond de dépenses. Cette approche permet de soutenir la croissance de l'entreprise tout en maintenant des barrières de sécurité infranchissables.
- Les agents autonomes déployés par les équipes de sécurité et antifraude nécessitent des périmètres de mission et des budgets stricts.
- Le chemin sécurisé doit demeurer la voie la plus rapide et la plus simple pour l'ensemble des développeurs de l'entreprise.
- L'automatisation des contrôles par la plateforme évite aux équipes de sécurité de croître proportionnellement au volume des projets.
설명
Vercel.com