Cerebros vs Manos: Cómo ejecutar agentes de IA de forma segura en producción — Viren Baraiya

하이라이트

• Los agentes de IA seguros en producción requieren separar la planificación no determinista del LLM de la ejecución determinista del entorno (harness).

• Los entornos agénticos funcionan como sagas de vinculación tardía (late-bound sagas) donde el agente genera y compone las tareas en tiempo de ejecución.

• La durabilidad ante fallos de red o caídas de infraestructura constituye el requisito básico y el costo de admisión para entornos de ejecución de larga duración.

• Un flujo de trabajo agéntico con el motor de orquestación de código abierto Conductor permite planificar y ejecutar múltiples pasos de remediación SRE secuenciales de manera idempotente.

타임라인

1. 00:00 - 05:00

   Evolución de los agentes de IA hacia aplicaciones complejas

   Las arquitecturas agénticas avanzan más allá de los ejemplos básicos de llamadas a herramientas. La integración de agentes que responden a eventos de telemetría como OpenTelemetry (otel) o que monitorean procesos durante días exige estructuras similares a los microservicios tradicionales. Un entorno completo unifica bases de datos, APIs, el estándar MCP y la supervisión humana para cumplir objetivos de negocio específicos.

   • Los agentes de producción trascienden los chatbots simples y operan como trabajadores en segundo plano, agentes orientados a eventos o coordinadores de larga duración.
   • Los sistemas de múltiples agentes evitan que una sola entidad asuma demasiadas responsabilidades y sufra alucinaciones.
   • Un entorno agéntico equivale a una aplicación que combina microservicios, bases de datos y humanos en el circuito (human-in-the-loop) bajo el principio de responsabilidad única.
2. 05:00 - 11:48

   Separación entre el cerebro no determinista y las manos deterministas

   Las operaciones críticas en infraestructura, como el reinicio de clústeres de Kubernetes o el procesamiento de pagos, requieren secuencias de pasos estrictamente deterministas. Permitir que el LLM ejecute directamente las herramientas expone el sistema a alucinaciones. Asignar al agente la tarea de redactar el plan y al entorno la obligación de validarlo y ejecutarlo asegura control, visibilidad y la posibilidad de solicitar autorizaciones en plataformas como Slack.

   • El LLM aporta la parte no determinista orientada exclusivamente al razonamiento y a la planificación de pasos.
   • El entorno ejecuta las acciones de forma determinista, garantizando idempotencia, seguridad y puertas de aprobación humana.
   • Los entornos agénticos representan sagas de vinculación tardía que construyen flujos de trabajo con ramificaciones en tiempo de ejecución.
3. 11:48 - 16:39

   Demostración práctica de un bucle agéntico SRE con Conductor

   En la demostración de un bucle de remediación SRE, el modelo evalúa los registros y métricas para proponer una secuencia de recopilación, análisis y reversión. El motor de código abierto Conductor compila este plan en un flujo totalmente controlado. Durante la segunda iteración, el agente verifica que la reversión ya se ejecutó en la primera etapa, adaptando su conducta para analizar los sistemas posteriores y cerrar el proceso de forma segura.

   • Un agente SRE analiza el estado del sistema, recopila evidencias y genera un plan compuesto por múltiples pasos secuenciales.
   • El compilador Plan and Compile transforma la propuesta del agente en un flujo de trabajo ejecutable mediante el motor Conductor.
   • Las iteraciones posteriores del bucle evalúan el estado actualizado del sistema para evitar repetir acciones previas como reversiones de datos.