Control sin dispersión: Cómo Mercor liberó a cientos de desarrolladores con Vercel

하이라이트

• Mercor utiliza Vercel para gestionar 2000 proyectos creados por equipos fuera de ingeniería, frente a menos de una docena el año anterior.

• La herramienta Vercel Passport elimina la necesidad de que los creadores escriban código de autenticación propio para cada aplicación.

• El cambio a AI Gateway permitió gestionar 80 millones de peticiones y 63.000 millones de tokens en los primeros 10 días.

• La velocidad de evaluación por lotes de un modelo se redujo de 12 horas a 2 horas tras implementar AI Gateway.

• La asignación de 300 millones de tokens por minuto para el modelo GLM 5.3 se completó para el martes sin revisiones adicionales de contratos.

타임라인

1. 00:28 - 02:22

   Crecimiento de proyectos y desafíos de seguridad

   La rapidez con la que avanzan los laboratorios de IA generó una presión constante sobre los equipos de ingeniería de Mercor. Ante la incapacidad de seguir el ritmo, los equipos de negocio y crecimiento comenzaron a desarrollar soluciones propias, lo que incrementó significativamente la superficie de exposición. Exigir una revisión de seguridad manual para cada uno de los 2000 proyectos actuales resulta un cuello de botella insostenible que obligaría a los usuarios a buscar métodos alternativos para sortear el control.

   • Mercor conecta a expertos en la materia con laboratorios de vanguardia para proporcionar datos de entrenamiento.
   • Los equipos de crecimiento comenzaron a lanzar sus propias soluciones debido a la presión sobre el producto y la ingeniería.
   • El número de proyectos aumentó de menos de una docena el año pasado a 2000 proyectos actuales.
2. 02:22 - 04:50

   Identidad y control de acceso con Vercel Passport

   Antes de Vercel Passport, cada aplicación requería decisiones individuales sobre capas de identidad, contraseñas o bibliotecas de autenticación. Passport sitúa al proveedor de identidad al frente con una única llave de acceso y cero fricción para los creadores, quienes heredan la autenticación de la plataforma. Para los 100.000 expertos externos que colaboran en la plataforma, la integración con Vercel Connection permite un aprovisionamiento rápido y una baja automática al finalizar cada proyecto.

   • Vercel Passport centraliza la identidad y evita que cada propietario de aplicación construya su propia autenticación.
   • La herramienta de audiencias permite aprovisionar acceso a miles de expertos externos en segundos mediante Passport.
   • La baja automática de los grupos de expertos al terminar la colaboración revoca su acceso de forma limpia.
3. 04:50 - 08:12

   Gestión de inferencia y rendimiento con AI Gateway

   Los expertos de Mercor utilizan modelos de lenguaje en flujos de trabajo de orientación, control de calidad y generación de variantes de datos humanos. Con AI Gateway, la necesidad de negociar contratos individuales con proveedores de inferencia y solicitar nuevos límites de peticiones desapareció. La adopción del gateway redujo drásticamente el tiempo de evaluación por lotes de los modelos y simplificó la asignación masiva de capacidad para nuevos modelos como GLM 5.3.

   • AI Gateway proporciona un punto de conexión único para modelos de lenguaje de código abierto y cerrado.
   • El sistema atendió 80 millones de peticiones y 63.000 millones de tokens en los primeros 10 días de uso.
   • La retención cero de datos está activada por defecto para proteger la información en una industria sensible.
4. 08:12 - 10:56

   Seguridad y control de agentes autónomos

   El despliegue generalizado de agentes autónomos por parte de los equipos de seguridad, identidad y fraude plantea nuevos retos de acceso. Al igual que un becario competente, un agente persigue su objetivo sin detenerse, lo que puede llevarlo a extraer información de canales públicos o documentos confidenciales si no se acotan sus permisos. Para mitigar este riesgo, Mercor restringe el acceso de los agentes mediante claves específicas, fechas de caducidad y listas de modelos permitidos.

   • Los agentes autónomos operan con objetivos definidos sin descanso ni supervisión humana constante.
   • Heredar los permisos de usuario en los agentes representa un riesgo crítico de filtración de datos sensibles.
   • Cada agente recibe su propia clave de pasarela con límites de gasto, listas seguras de modelos y fecha de caducidad.
5. 10:56 - 13:15

   Escalabilidad y valores predeterminados seguros

   Gestionar miles de aplicaciones y miles de millones de tokens requiere que la plataforma asuma la responsabilidad de la seguridad y la infraestructura. Al establecer Passport y AI Gateway como valores predeterminados, Mercor evita la fragmentación de configuraciones entre equipos dispares. De este modo, la empresa mantiene el control y la mantenibilidad de sus sistemas mientras elimina las barreras que ralentizan a los creadores.

   • El objetivo principal de la plataforma es hacer que el camino seguro sea el más rápido y fácil para los creadores.
   • Apoyarse en los valores predeterminados de Vercel evita la creación de equipos artesanales de configuración.
   • La gestión centralizada permite a la empresa crecer y escalar sin obstaculizar la labor de los creadores.