Cloudflare Dynamic Workers: Sandboxes 100 veces más rápidos

El video comienza presentando los nuevos "dynamic workers" de Cloudflare como una herramienta de bajo nivel revolucionaria. El orador destaca que son significativamente más eficientes que los contenedores tradicionales porque utilizan la tecnología de V8 isolates. Esta arquitectura permite ejecutar código generado por IA y automatizaciones personalizadas con un consumo de memoria mínimo. Se menciona la impresionante cifra de que se podrían ejecutar hasta un millón de estos workers por segundo. Finalmente, se plantea la duda sobre si la limitación de usar principalmente JavaScript afecta su versatilidad general.

En esta sección, se comparan los sandboxes presentados el año pasado, que son contenedores Linux sobre "durable objects", con los nuevos Dynamic Workers. Los contenedores Linux son ideales para sistemas operativos completos con sistemas de archivos y binarios complejos. Sin embargo, los Dynamic Workers se posicionan como una alternativa mucho más rápida y ligera para casos de uso concurrentes ilimitados. Operan bajo los mismos límites que un worker estándar, pero con una agilidad superior para tareas de corta duración. Esta distinción es crucial para que los desarrolladores elijan la herramienta adecuada según la complejidad de su código.

El presentador demuestra cómo configurar un Dynamic Worker utilizando la herramienta de línea de comandos Wrangler. Se introduce el concepto de "worker_loaders" en el archivo de configuración, que actúa como un binding para crear y controlar workers anidados. El ejemplo de código muestra cómo un worker padre puede instanciar un worker hijo con una fecha de compatibilidad específica y código JavaScript definido dinámicamente. También se explica la diferencia entre cargar un worker nuevo en cada solicitud o reutilizar uno existente mediante un nombre asignado. Esto permite mantener el estado o contexto entre diferentes llamadas, mejorando la eficiencia operativa.

Se exploran funcionalidades avanzadas como los bindings personalizados, el uso de bibliotecas de NPM como Hono y la interceptación de solicitudes salientes. El orador enfatiza que uno de los motivos principales para usar esta tecnología es la ejecución de código generado por agentes de IA. Se muestra un ejemplo utilizando el SDK de Anthropic y el modelo Sonnet 3.5 para ejecutar tareas complejas. Aunque estos workers no tienen acceso directo a un sistema de archivos físico, pueden utilizar librerías de shell para crear sistemas virtuales. Esta capacidad es fundamental para entornos de ejecución seguros donde el código de terceros debe estar aislado.

El análisis profundiza en la capacidad de los Dynamic Workers para ejecutar no solo JavaScript, sino también Python. Se presenta un flujo de trabajo donde un agente de IA genera código Python para crear un gráfico SVG. Dado que el sandbox es volátil, el resultado se envía de vuelta al worker principal para ser almacenado en un bucket R2 de Cloudflare. El ejemplo práctico demuestra la generación de un visual complejo de Claude Sonnet que se sirve directamente desde la infraestructura de almacenamiento. Este proceso ilustra cómo superar las limitaciones de persistencia de los isolates utilizando otros servicios del ecosistema Cloudflare.

En el tramo final, se realiza una prueba de estrés creando 10,000 workers diferentes de forma casi instantánea en la infraestructura real de Cloudflare. El sistema demuestra una velocidad increíble al asignar IDs específicos a cada instancia y permitir la comunicación individual con cualquiera de ellas. Se menciona que empresas como Zite ya utilizan esta tecnología para ejecutar aplicaciones generadas por modelos de lenguaje de gran tamaño (LLM). El orador advierte que, aunque el servicio es potente y actualmente gratuito, es probable que se vuelva costoso en el futuro debido a su escala. El video concluye invitando a los espectadores a explorar el SDK VIVE para crear generadores de aplicaciones similares a v0.