Cómo saber cuándo un agente de IA puede trabajar sin supervisión — Evan Kormos, Coinbase

하이라이트

• Los agentes autónomos integran un modelo operativo que atraviesa personas, procesos y tecnología.

• Los gráficos acíclicos dirigidos, conocidos como DAGs, representan flujos de trabajo con pasos y dependencias que avanzan sin retroceder.

• La naturaleza probabilística de la inteligencia artificial requiere conjuntos de datos representativos y análisis estadísticos en lugar de comparaciones de resultados exactos.

• La transición hacia la autonomía sin supervisión comienza con la supervisión total y avanza mediante el muestreo sistemático cuando se alcanza el umbral de confianza de la política.

타임라인

1. 00:00 - 05:30

   Fundamentos de política y flujos de trabajo

   El marco operativo separa el estado de compilación del estado de ejecución en constante cambio. Mediante herramientas de código abierto como Apache Airflow, los flujos regulados se representan en código Python para gestionar procesos complejos como préstamos comerciales o entrega de software.

   • Las políticas establecen las reglas y directrices de riesgo y cumplimiento dentro de una organización.
   • Los agentes actúan como un modelo operativo que combina personas, procesos y tecnología.
   • Los gráficos acíclicos dirigidos (DAGs) estructuran los pasos y dependencias de los procesos empresariales mediante código.
2. 05:30 - 11:10

   Bucles internos y gestión de excepciones

   Dentro de un nodo específico, como la revisión de código, el trabajo se evalúa e itera hasta alcanzar la calidad requerida. La variabilidad en las entradas afecta directamente las salidas, por lo que inyectar el estado del DAG en el agente proporciona el contexto necesario para mantener la eficiencia en bucles de horizonte largo.

   • Los nodos de los procesos operan mediante bucles iterativos gestionados como gráficos cíclicos dirigidos (DCGs).
   • Herramientas como LangChain y LangGraph facilitan la gestión del estado en estos bucles complejos.
   • La aceleración de los procesos mediante agentes genera la necesidad de una visibilidad operativa métrica para evitar cuellos de botella.
3. 11:10 - 17:23

   Mecanismos de confianza y evaluación de calidad

   Para garantizar resultados de alta calidad, se combinan evaluaciones sistemáticas con rastreos de tiempo de ejecución que complementan al software tradicional. A medida que las métricas de confianza superan los umbrales establecidos por la política, los humanos reducen la revisión completa a un muestreo parcial y control de excepciones.

   • La evaluación de sistemas probabilísticos exige análisis estadísticos sobre volúmenes de datos en lugar de pruebas unitarias tradicionales.
   • La transición operativa avanza desde la supervisión manual hasta el muestreo y la gestión exclusiva de excepciones.
   • La receta fundamental para incorporar agentes consiste en mantener el sistema determinista en el exterior y adaptable en el interior.