스크립트
00:00:00Hola a todos, gracias por venir. Soy Andrew, jefe de software en Vercel, y estoy aquí para
00:00:20hablarles de cómo resolvimos la creación de agentes en Vercel. Soy el jefe de software, así que trabajo en
00:00:26una mezcla de ingeniería interna, experimentación externa y, en general, estar en la
00:00:30vanguardia y construir nuevas librerías, frameworks y tecnologías. Para aquellos de ustedes que no
00:00:36conozcan Vercel, Vercel construye infraestructura agéntica para que la gente pueda crear lo que sigue. Empezamos
00:00:42en el mundo web, ayudando a la gente a lanzar sitios y aplicaciones web sin tener que preocuparse por la
00:00:47infraestructura que no mejora su aplicación. Puede escalar a un millón y reducirse a
00:00:50cero sin esfuerzo. Pero estamos viendo un cambio en lo que la gente quiere construir. La gente empezó
00:00:56construyendo páginas, pero ahora vemos que quieren construir agentes, y nos hemos embarcado en un viaje
00:01:01similar para facilitar que la gente construya agentes y aplicaciones agénticas más fácilmente. Construimos esto
00:01:08llamado AISCK, así que en lugar de tener que cambiar 300, 400 líneas de código específico de un proveedor,
00:01:13puedes cambiar una sola línea de código, y tenemos la misma interfaz de modelo subyacente para todos estos
00:01:19diferentes proveedores. Construimos muchas otras herramientas para facilitar los respaldos de modelos, la ejecución segura
00:01:25de código, mejores precios cuando está inactivo y esperando respuestas, así como para la durabilidad y
00:01:30la capacidad de reanudación. Y estoy aquí para hablarles sobre cómo me embarqué en este loco experimento hace aproximadamente un año que condujo a
00:01:38una explosión agéntica en Vercel y dio lugar a algo muy genial que construimos recientemente.
00:01:46Sobre, esto es 1980, Bill Gates, antes de mi época, tenía esta cita diciendo que imaginaba que habría una computadora
00:01:53en cada escritorio y en cada hogar. Ya sabes, eso probablemente era bastante contrario a la época, y hoy parece muy
00:01:59normal que eso suceda. Y el CTO y yo tuvimos este pensamiento, ya sabes, en lugar de una computadora en cada escritorio, ¿podríamos
00:02:07potencialmente tener un agente en cada escritorio? Ya sabes, hoy en día solo usamos realmente agentes para la programación y cargas de trabajo
00:02:15técnicas, pero estamos empezando a ver la expansión hacia cosas como el diseño, la gestión de productos y otros
00:02:20sectores. Y esto fue hace aproximadamente un año, así que diría que soy bastante temprano en esto. Pero fue cuando era como
00:02:27Sonnet 4 y las cosas no eran tan sofisticadas como lo son hoy. Y traté de explorar esto realmente, ver qué podíamos hacer
00:02:33al respecto. Fui a varios puestos de trabajo en Vercel. Marketing, ventas, finanzas, legal. Y les pregunté, ¿qué es lo que más odian
00:02:42de su trabajo? Y el caso de uso más convincente que escuché fue en el equipo de datos. Estaban creciendo, eran un equipo muy reducido,
00:02:50pero Vercel estaba creciendo más rápido. Ya sabes, tenían muchos más datos de clientes, análisis, métricas, ventas. Tenían que seguir agregando y manteniendo disponible para ellos mismos
00:03:02para usar. Y en este momento, si piensas en lo que la gente de ciencia de datos tiene que hacer, cada vez que alguien de marketing o ventas tiene una
00:03:11pregunta sobre un cliente o un producto, el equipo de ciencia de datos tiene que dejar todo lo que está haciendo, escribir la consulta, procesarla, hacer un análisis y regresar con alguna
00:03:19recomendación sobre qué hacer. Y esto era realmente un golpe duro para la productividad. Ya sabes, el equipo de datos no quería dejar todo y simplemente escribir consultas todo el día. Así que trabajé con nuestro vicepresidente de datos para intentar construir una mejor manera de hacerlo.
00:03:31intentar construir una mejor manera para que operen de esta forma. Y entonces, si piensas en lo primero que harías si quieres intentar usar la IA
00:03:40para resolver un problema, podrías simplemente construir un megaprompt gigante. Ya sabes, solo tienes una pregunta, la pasas a un LLM, haces que responda y eso es todo. Ya sabes, así es como se veía realmente la primera versión, honestamente.
00:03:52Les pedí un volcado del esquema de Snowflake. Lo pegué en un prompt de sistema con una pregunta. Y luego, cuando generó el SQL, en realidad
00:04:01lo copié y pegué y lo ejecuté yo mismo. Ya sabes, solo quería ver si los modelos son lo suficientemente buenos hoy en día como para escribir SQL válido dada una estructura
00:04:09decente. Y diría que esto nos dio un poco de confianza en que, ya sabes, los modelos de hoy no son tan buenos, pero tal vez podamos hacer ingeniería de contexto o mejorar un poco el contexto que los rodea y darles más barreras de protección para operar un poco mejor.
00:04:21Y así, si realmente piensas en lo que un científico de datos necesita hacer cuando recibe una pregunta, ya sabes, tiene que procesar la pregunta.
00:04:28Es posible que tenga que explorar la capa semántica y averiguar realmente cuáles son los patrones de combinación (joins). En realidad, irá a ejecutar el SQL.
00:04:35Puede volver y hacer eso de nuevo si el SQL no se ejecutó o si era demasiado costoso. Y eventualmente informará al respecto, incluyendo visualizar los
00:04:42datos, tal vez escribir algunos párrafos, tal vez hacer una retrospectiva, tal vez hacer algunas otras cosas. Y entonces, si piensas en esas diferentes fases, el vicepresidente de datos y yo
00:04:50tratamos de sentarnos y asignarlas a cargas de trabajo de agentes específicos. Y así, la segunda versión de este agente de ciencia
00:04:57de datos llamado D0, voy a referirme a D0 a partir de ahora, es que haces una pregunta, tenemos un agente de consulta que pasa una consulta al
00:05:05agente de planificación que luego tendrá un agente de ejecución, etcétera. Y si encadenas todo esto, en realidad obtienes
00:05:11algo que se ve así, donde cada agente tiene un prompt de sistema muy dedicado y enfocado a lo que hace, con herramientas limitadas exactamente a esa función.
00:05:20Así que un ejemplo aquí, puedes ver que para el primero, el agente de planificación tiene una herramienta para leer entidades YAML y buscar esquemas. Y por lo tanto, solo usará esas
00:05:31capacidades hasta que tenga una respuesta para pasar al agente de planificación y luego al agente de SQL y luego a informes. Y esto estaba mejorando.
00:05:38Ya sabes, pudimos alejarnos de tener que copiar y pegar un SQL y tener que regresar e informar
00:05:44sobre él. Ahora estaba haciendo el ciclo de extremo a extremo desde la pregunta hasta la respuesta. Pero empezamos a chocar con algunos muros con esta
00:05:54arquitectura. Y alrededor de este tiempo llegamos a la conclusión de que, ya sabes, lo que realmente necesitas es uno
00:06:01solo agente con todo el megacontexto dentro y que gestione su propia memoria. Ya sabes, esto fue alrededor del
00:06:07momento en que nos dimos cuenta de que en realidad quieres que el agente pueda mirar hacia atrás en lo que ha hecho, reflexionar y
00:06:13descubrir los pasos que lo llevaron hasta aquí. Y con el modelo anterior, habrás notado que lo único que el
00:06:19siguiente agente recibe es un resumen y un pequeño fragmento de lo anterior que se hizo. Ahora, de esta manera puedes
00:06:25imaginar que tienes un mega agente e internamente gestiona su propio estado. En algunos momentos está planificando,
00:06:30en algunos momentos está construyendo, en algunos momentos está ejecutando y en algunos momentos está informando. Y esto es más o menos lo que
00:06:36parecía. Ya sabes, tienes una gran llamada de IA, tal vez un máximo de 100 pasos, y le das la capacidad de gestionar su propio
00:06:43estado en función de dónde se encuentra dentro de su viaje de ejecución. Y así puedes ver que es similar a lo que
00:06:48herramientas, puedes ver una forma similar. Pero la mejor parte de esto es que si alguna vez se encontraba con un error al ejecutar o
00:06:54unir, podía retroceder y explorar más, o podía ir a leer más y averiguar qué estaba haciendo mal.
00:07:00Y era muy bueno en este punto. Teníamos bastante confianza en el sistema real en cuestión, y en realidad
00:07:06lo extendimos a unos pocos miembros de confianza de nosotros mismos. Ya sabes, esta era una herramienta muy poderosa y realmente no queríamos ponerla en
00:07:11manos de las personas equivocadas o de personas que usaban cargas de trabajo muy críticas. Así que lo pusimos en manos de algunas personas y la respuesta
00:07:17inmediata fue que era horrible. Ya sabes, pensábamos que lo estábamos bordando. Pensábamos que esto era, ya sabes, clavar el 30% de nuestras evaluaciones.
00:07:23Pero no podíamos haber anticipado algunas de las preguntas que se hacían. Y para nosotros pasar más tiempo
00:07:28mapeando manualmente algunos de estos escenarios, no parecía una forma muy escalable de hacer esto.
00:07:33Y luego salieron Claude Code y Opus 4.5, o más bien salió Opus 4.5, y en conjunto con Claude Code era simplemente muy potente.
00:07:44Ya sabes, desbloquearon el concepto de un agente del sistema de archivos. Y nosotros, por nuestra parte, dijimos, guau, Claude Code y Opus 4.5 son básicamente AGI en comparación con lo que teníamos antes.
00:07:56Ya sabes, respondía a la mayoría de nuestras preguntas sin pestañear en comparación con el agente casero que teníamos.
00:08:04Y cuando intentamos dar un paso atrás y preguntarnos qué estábamos haciendo mal y por qué esto era mucho mejor, nos dimos cuenta de que el gran avance era que simplemente era un sistema de archivos.
00:08:13Ya sabes, nosotros — tenía un conjunto muy mínimo de herramientas, listar archivo, leer archivo, ejecutar bash, y dimos algunas más aquí para nuestro propio caso de uso de agente de datos.
00:08:24Pero lo más importante era que podía usar las herramientas en las que los agentes están bien entrenados y era capaz de explorar y realizar trabajo donde lo necesitaba.
00:08:32Ya sabes, no le estábamos dando — Claude Code no le estaba dando un conjunto de herramientas muy prescriptivo.
00:08:37Básicamente lo dejaba en libertad y explorar comportamiento emergente.
00:08:41Y por lo tanto, a partir de esto, aprendimos que realmente puedes usar el sistema de archivos.
00:08:44Ya sabes, vimos los aprendizajes de Claude Code y lo potente que era dado que simplemente se ejecuta localmente.
00:08:50Y tratamos de reconstruirlo de una manera muy al estilo de Claude Code.
00:08:54Ya sabes, ahora iba a ejecutarse en un entorno aislado (sandbox).
00:08:57Ese sandbox volcaría toda la capa semántica en él.
00:09:00Podrías — el agente podría tomar bash, leer archivo, escribir archivo por todas partes para averiguar qué necesita.
00:09:05Y simplemente rociaríamos algunas herramientas encima para asegurarnos de que pudiera hacer todo lo específico de Vercel.
00:09:10Y este fue en realidad el mayor avance de todos.
00:09:14Ya sabes, el salto de un solo agente al SDK de Claude Code y luego del SDK de Claude Code al agente de sistema de archivos en general, ajustado o construido específicamente para nuestro caso de uso, fue un salto increíble.
00:09:27En este punto, empezábamos a prepararnos para dárselo a más personas en Vercel.
00:09:31Y en este punto, la puntuación de evaluación básicamente se duplicó.
00:09:36Y escribí esto, esto es básicamente cómo se ve.
00:09:39Es muy simple.
00:09:40Simplemente le das una herramienta bash.
00:09:41Tenemos un buen asistente llamado bash tool en NPM.
00:09:44Y lo adjuntas a un sandbox.
00:09:45Y puedes adjuntar archivos al sandbox para que los lea, escriba y ejecute.
00:09:50Y después de esta revelación, y después de ver que estábamos superando tantas preguntas que antes no podíamos resolver, escribí esta excelente publicación de blog.
00:09:59De hecho, está publicada hoy.
00:10:00Y la semana que escribí esto, fue responsable del 70% de nuestro tráfico en Vercel.com.
00:10:05Así que ya sabes que es buenísima.
00:10:07Y después de eso, el siguiente paso lógico fue que queríamos averiguar los casos de uso comunes que teníamos.
00:10:14Así que para entonces, ya lo habíamos soltado por todo Vercel.
00:10:18Y estábamos recibiendo miles de consultas al día de personas que querían de todo, desde métricas de clientes, métricas de ventas, métricas numéricas, descargas de NPM.
00:10:27Y resulta que muchas de estas consultas en realidad tienen la misma forma.
00:10:30Ya sabes, solo hay tantas formas de hacer una agregación.
00:10:33Solo tantas formas de buscar un producto.
00:10:35Solo tantas formas de ver información de facturación.
00:10:37Y por eso en realidad tenemos un trabajo recurrente que toma las consultas más recientes e intenta destilarlas en una habilidad.
00:10:43Y ahora mismo, tenemos aproximadamente 100 habilidades que hacen una combinación de agregación hasta buscar datos específicos sobre ciertas personas.
00:10:50Y descubrimos que esto era muy eficaz.
00:10:52Porque si piensas en cada nueva ejecución de un agente, más o menos empieza desde cero.
00:10:56Ya sabes, realmente no hay un contexto preestablecido aparte de la capa semántica y el mensaje del sistema.
00:11:01Pero con una habilidad, ya comienza con una gran cantidad de conocimiento contextual que de otro modo ya se ha creado.
00:11:09Y más o menos así es como se ve.
00:11:11Es muy similar al anterior.
00:11:12Pero la inclusión de una carpeta de habilidades es en realidad muy potente.
00:11:15También construimos esta herramienta en Vercel llamada Skills SH.
00:11:18Es la forma más popular de encontrar habilidades de agentes y ejecutarlas tú mismo.
00:11:22Y digo todo esto porque este viaje es algo con lo que la mayoría de ustedes se topará de vez en cuando.
00:11:28Donde empiezas desde algo simple y poco a poco añades complejidad hasta que finalmente llegas a un sistema que puedes llevar a producción.
00:11:34Y les digo esto porque en cada paso de la construcción de este agente, alguien en Vercel tenía curiosidad por los agentes.
00:11:42E intentaron bifurcar mi agente D0 y construir el suyo propio.
00:11:46Y en cada paso, teníamos una mejor manera de hacer algo que antes no se conocía.
00:11:50Y nos preguntábamos qué pasaría si la gente hoy pudiera empezar desde la última perspectiva y no tener que empezar nunca desde un simple aviso o desde la reinvención de los principios básicos.
00:12:04Y así pensamos, ¿y si construyéramos Next.js para agentes?
00:12:09Para aquellos que no lo sepan, Next.js es un popular framework web que construyó Vercel y que inventó esto de la infraestructura definida por el framework de sistemas de archivos.
00:12:18No tienes que preocuparte por dónde van las cosas.
00:12:20Solo tienes que escribir archivos con las convenciones correctas.
00:12:23Y declara automáticamente dónde deben ir.
00:12:26Tus páginas van a la CDN.
00:12:27Tus funciones sin servidor van allí.
00:12:29Tu almacenamiento en caché va en el medio.
00:12:31Y pensamos, ya sabes, construir agentes debería ser así de simple.
00:12:34Solo deberías tener que crear una carpeta de habilidades, una carpeta de herramientas, una carpeta de canales.
00:12:38Y deberías poder declarar esto muy fácilmente.
00:12:40Y el framework debería saber exactamente cómo crear un agente a partir de ello.
00:12:44Y por eso hace dos semanas lanzamos Eve.
00:12:47Eve es un framework de agentes como Next.js para agentes, donde es muy fácil, desde empezar con una plantilla de ejemplo hasta tener un agente totalmente listo y poder añadir tus propios conocimientos personalizados, tus propias herramientas personalizadas,
00:12:59e incluso integrarlo en los canales con los que estás familiarizado.
00:13:03Esto es más o menos lo que creemos que es realmente un agente.
00:13:06Ya sabes, un agente tiene un motor de ejecución y tiene canales.
00:13:09Y en ese motor de ejecución, vas a tener durabilidad.
00:13:11Vas a querer ejecutar cosas en un entorno aislado.
00:13:13Vas a querer llamar a diferentes modelos.
00:13:15Y vas a querer tener conexiones.
00:13:17Y construimos esto pensando en el código abierto.
00:13:19Ya sabes, construimos Eve para que puedas conectar tus propios adaptadores de código abierto para Postgres, la API de respuestas de OpenAI, Docker y otros conectores.
00:13:29Pero también hicimos que fuera increíblemente fácil de implementar en Vercel.
00:13:31Lo único diferente que ves aquí es que todo utiliza un producto de Vercel que hemos estado construyendo a lo largo de los años para facilitar la creación de estas experiencias.
00:13:39Vercel workflows para la durabilidad, Sandbox para una ejecución segura y Vercel Connect, algo que acabamos de lanzar para facilitar la generación de tokens OADC de corta duración para las conexiones.
00:13:51Y de hecho reescribimos todo el agente D0 en Eve mientras construíamos Eve.
00:13:55Y desde las estructuras enrevesadas detrás de escena que no veías en el código, así es más o menos como se ve el sistema de archivos.
00:14:01Es muy simple.
00:14:02Tienes un montón de instrucciones de sistema, un par de habilidades, un par de herramientas, y es muy fácil componer esto en un agente real.
00:14:09Y es muy fácil de iterar.
00:14:11De hecho, se lo dimos a unos cuantos clientes beta antes de lanzarlo por completo hace dos semanas en nuestro evento en Londres.
00:14:17Y esta empresa que se asocia estrechamente con nosotros, Aura, ha reconstruido su agente, que es algo así como un mini-claw, para ir a probar los servicios de la gente.
00:14:26Va a los sitios web, los instala, intenta usarlos.
00:14:29Y han visto un éxito increíble al construir su propio agente desde cero usando Eve en comparación con el uso de un código en la nube prefabricado.
00:14:38Menos pasos, mejores éxitos y también mejores perspectivas.
00:14:42Y cuando despliegas Eve en Vercel, obtienes observabilidad integrada de serie.
00:14:49Aquí puedes ver que obtienes todas las ejecuciones de agentes, ves todas las llamadas a herramientas, ves cada paso que da, así como algunos costes estimados y algunas optimizaciones que podrías realizar.
00:15:00Y puedes empezar hoy mismo en Eve.dev.
00:15:02Puedes simplemente clonarlo y empezar una plantilla, desplegar fácilmente y autohospedar si lo necesitas.
00:15:07Y la razón por la que menciono esto es porque espero que haya cada vez más agentes con casos de uso específicos para empresas.
00:15:14Ya sabes, antes de construir D-Zero, pusimos a prueba a muchas de las startups del sector, bien financiadas, que hacían estos agentes verticales.
00:15:23Que se dedicaban a tomar tu instancia de Snowflake y hacer que su agente pudiera ejecutar consultas de Snowflake en ella.
00:15:30Pero descubrimos que lo que realmente hace que este agente sea bueno es que tiene una gran cantidad de conocimientos muy específicos de la empresa.
00:15:38Ya sabes, de la manera en que Vercel es una empresa basada en la web, tenemos muchos clientes que tienen sitios web y propiedades web.
00:15:45Eso va mucho más allá de cuándo debes consultar algo y qué cosas se vinculan con qué.
00:15:51Y así, muchos de estos agentes prefabricados son geniales, son buenos para probar, pero creo que si realmente quieres exprimir al máximo las opciones,
00:15:58deberías intentar construir tu propio agente y añadirle tanto conocimiento específico de la empresa como puedas.
00:16:03Hoy en día, ya sabes, hemos tenido aproximadamente 20 agentes con un ajuste de producto al mercado decente en Vercel, que van desde cualquier cosa, desde retrospectivas de marketing para averiguar a quién contactar,
00:16:14hasta la primera revisión de un contrato cuando el departamento legal ve una nueva negociación, pasando por mi agente de ciencia de datos que ayuda con las consultas de datos.
00:16:24Y eso demuestra que nosotros en Vercel hemos estado muy volcados en los agentes.
00:16:28Ya sabes, todo esto en realidad nos está ahorrando mucho tiempo.
00:16:32El equipo de datos nunca ha sido tan productivo.
00:16:34Tienen más tiempo para ir y mejorar el rendimiento de Snowflake, para añadir nuevas fuentes de datos que faltaban,
00:16:40para llenar los vacíos que antes no tenían tiempo de cubrir porque estaban muy ocupados escribiendo consultas.
00:16:46Y creo que nunca ha sido tan fácil para ti, en tu empresa grande, pequeña o mediana, automatizar algunas de las cosas que no quieres hacer
00:16:55o algunas de las cosas en las que estás gastando demasiado tiempo.
00:16:58Ya sabes, creo que gran parte de RRHH, finanzas y ventas se puede automatizar de alguna manera con agentes, y creo que Eve es la mejor manera de construir dichos agentes hoy en día.
00:17:09Y estas son mis redes sociales.
00:17:11Gracias a todos por venir y escuchar.
00:17:13Soy Andrew, y estaré por aquí si quieren charlar afuera.
커뮤니티 글
아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!
이 영상에 대해 글쓰기