300 agentes, 60 personas: Cómo aseguramos nuestros propios agentes de IA - Aiden Sochowski, Runlayer

Highlights

• Una empresa de 50 o 60 personas ejecuta más de 300 agentes de inteligencia artificial todos los días.

• La falta de visibilidad en los clientes MCP locales y en los dispositivos no gestionados multiplica los riesgos de seguridad empresarial.

• Los agentes mal acotados pueden listar clientes potenciales y exfiltrar datos si reciben solicitudes de actores malintencionados en correos electrónicos.

• Los costos se disparan más de 100 veces en una semana cuando los equipos cambian sin control a modelos de lenguaje más caros.

• Los servidores MCP mal escritos provocan bucles de errores constantes que multiplican el consumo de tokens de entrada y salida.

Timeline

1. 00:00 - 02:41

   Visibilidad y proliferación interna de agentes

   Los empleados utilizan herramientas y servidores MCP en dispositivos no gestionados sin un control centralizado real. Para solucionar esta falta de visibilidad interna, se implementó una pasarela destinada a registrar cada sesión y llamada a herramientas. Esta proliferación masiva genera una superficie de ataque extensa y oportunidades para la lectura de datos hostiles o la exfiltración de información.

   • Las compañías carecen de visibilidad sobre los agentes y clientes MCP que se ejecutan localmente en los equipos.
   • Una plantilla de entre 50 y 60 personas opera más de 300 agentes activos de forma cotidiana.
   • Los agentes aceleran los riesgos de mezclar datos corporativos en comparación con las integraciones tradicionales por API.
2. 02:41 - 08:37

   Complejidad en la definición de políticas de seguridad

   Bloquear herramientas de manera absoluta no siempre funciona porque la seguridad depende enteramente del contexto de cada ejecución. Aunque se implementan filtros de expresiones regulares para evitar fugas de información personal y clasificadores para detectar inyecciones de prompts, los ataques evolucionan a lo largo de toda una sesión. Incluso los agentes encargados de aprobar código en GitHub pueden aceptar cambios incorrectos si el usuario los persuade repetidamente durante la interacción.

   • Delimitar mediante reglas estáticas el alcance de las herramientas que posee un agente resulta un proceso muy complejo.
   • Los clasificadores entrenados examinan los correos electrónicos leídos para bloquear instrucciones maliciosas ocultas.
   • Los agentes revisores de código con permisos de aprobación en solicitudes de incorporación de cambios sufren manipulaciones si no se gestionan de forma dinámica.
3. 08:37 - 12:30

   Modelos clasificadores y control de permisos

   El historial de las sesiones de agentes con tareas bien definidas aporta señales muy claras para detectar desviaciones de comportamiento. Al analizar las ejecuciones pasadas, es posible recortar permisos excesivos, como el acceso innecesario a la totalidad de un sistema ATS. Mapear cómo interactúan los sistemas resulta indispensable debido a que los agentes funcionan como software encargado de mover datos entre diferentes fuentes.

   • Los modelos clasificadores internos analizan los datos de la sesión para verificar si cada llamada a herramienta se alinea con el propósito original del agente.
   • Los bots de reclutamiento con acceso a ATS y calendarios concentran un nivel de riesgo elevado que exige restricciones estrictas.
   • Acotar con precisión los permisos de escritura en los sistemas corporativos evita la contaminación de la ventana de contexto.
4. 12:30 - 16:30

   Optimización de costos y gestión de servidores MCP

   Los errores en servidores MCP hechos internamente obligan a los agentes a reintentar procesos de manera repetitiva, lo que encarece notablemente los costos por tokens. Asimismo, la adopción informal de modelos más potentes sin justificación previa descontrola los presupuestos empresariales. Mantener el control exige supervisión activa para establecer valores predeterminados sensatos, limitar tasas de error e intervenir antes de que los gastos crezcan sin freno.

   • Los servidores MCP escritos por personal sin experiencia previa generan errores de formato continuos que disparan el consumo de tokens.
   • Cambiar de modelos económicos a opciones avanzadas multiplica los gastos operativos hasta cien veces en apenas una semana.
   • Las herramientas de monitoreo permiten detectar ejecuciones de alto riesgo y frenar el desperdicio presupuestario.