La corrección de tu agente acaba de romper otra cosa - Sofia Jakovcevic, Arize AI

하이라이트

• Los agentes de IA fallan en tiempo de ejecución debido a cambios complejos en su comportamiento operativo, y no simplemente a nivel de código estático.

• Un ajuste simple de una línea en un prompt de soporte generó una mejora de 17 puntos en seguridad de acciones pero provocó una degradación de 17 puntos en la finalización de tareas.

• El proceso de cinco pasos para construir una prueba de regresión incluye seleccionar un conjunto de datos, contar con un mecanismo de puntuación, ejecutar un experimento de referencia, probar el cambio e integrar la automatización en el flujo de CI.

• Las trazas de producción se convierten en la nueva fuente de la verdad para registrar las trayectorias reales de los agentes en lugar de depender únicamente de los registros de código estático.

• El futuro de la observabilidad de agentes se desplaza hacia la superación personal, donde los propios agentes utilizan los datos de rastreo para diagnosticarse y mejorarse de forma autónoma.

타임라인

1. 00:49 - 04:47

   Por qué la regresión de agentes es diferente y difícil

   Construir sistemas de inteligencia artificial presenta desafíos complejos porque la mente de un agente funciona como una caja negra difícil de predecir. Cuando los ingenieros realizan cambios aparentemente inofensivos, como añadir una directiva de confirmación previa, suelen asumir que el comportamiento se mantendrá estable basándose en la intuición del lenguaje natural. Sin embargo, un análisis detallado con conjuntos de evaluación numérica demuestra que optimizar una dimensión específica del agente puede degradar gravemente otra métrica clave, arrojando un balance neto engañoso si no se mide adecuadamente.

   • La observabilidad ilumina las cajas negras de los sistemas de IA para rastrear su rendimiento y mejorar los agentes con datos.
   • Un cambio de una sola línea en la política de un agente de soporte mejoró la seguridad en 17 puntos pero redujo la finalización de tareas en otros 17 puntos.
   • Los agentes fallan en tiempo de ejecución mediante interacciones imprevistas con herramientas y subagentes, en lugar de fallar a nivel de código estático.
2. 06:27 - 11:19

   El ciclo de regresión de cinco pasos

   Para evitar despliegues basados en meras sensaciones o intuiciones, resulta indispensable implementar un proceso sistemático de cinco etapas. Este proceso arranca recopilando datos de producción representativos que incluyan errores comunes y trayectorias exitosas que se deban proteger. A continuación, se configuran evaluadores automáticos para cuantificar dimensiones como alucinaciones, precisión y uso de herramientas. Tras ejecutar la línea base, se introducen cambios de prompts, modelos o políticas para comparar los resultados de manera numérica antes de fusionar cualquier código en producción.

   • El primer paso consiste en extraer trazas de producción reales que representen tanto flujos exitosos como fallos conocidos y casos límite.
   • El mecanismo de puntuación utiliza evaluadores basados en código o en modelos de lenguaje como jueces para convertir métricas subjetivas en puntuaciones cuantitativas.
   • El experimento de referencia ejecuta al agente contra los conjuntos de datos de producción para establecer una línea base antes de aplicar modificaciones.
3. 11:19 - 15:33

   Automatización en la plataforma y flujos de CI/CD

   Llevar la validación al flujo de trabajo de integración continua garantiza que cada solicitud de extracción pase por pruebas automatizadas contra las métricas críticas del equipo. Las herramientas de la plataforma ofrecen entornos interactivos para experimentar con prompts individuales o conectar arquitecturas multiagente remotas. De esta manera, es posible analizar la latencia, el costo total y las tasas de error asociadas a cada modificación antes de que el código afecte a los usuarios finales en producción.

   • La integración del flujo de experimentos en GitHub Actions permite bloquear solicitudes de extracción si no cumplen con los criterios de regresión establecidos.
   • El Prompt Playground permite probar un único agente comparando múltiples versiones de prompts y configuraciones de modelos de manera simultánea.
   • El Agent Playground permite conectar sistemas multiagente complejos mediante llamadas remotas HTTP para evaluar interacciones avanzadas entre subagentes.
4. 15:33 - 19:15

   Cerrar el círculo y el futuro de la autodepuración

   Cerrar el ciclo de retroalimentación implica realimentar la capa de observabilidad con los rastros de producción que presentaron errores, convirtiéndolos en nuevas pruebas para fortalecer el sistema de manera permanente. Los ingenieros ya no necesitan realizar toda la investigación manual ni revisar paneles de control de forma exclusiva. Al dotar a los agentes de las herramientas necesarias para comprender su propio comportamiento a través de las trazas de ejecución, la industria evoluciona hacia sistemas capaces de superarse y repararse de forma completamente autónoma.

   • Cada fallo registrado en producción debe convertirse automáticamente en un nuevo caso de prueba dentro de la suite de regresión.
   • Las habilidades de agentes conectan los entornos de programación locales con bases de datos de observabilidad externas en tiempo real.
   • La próxima frontera de la observabilidad transforma a los agentes en entidades capaces de diagnosticarse, evaluarse y repararse a sí mismas.