El cerebro de tu empresa filtrará secretos: cómo lo evitamos para los grandes bancos — Tanmai Gopal, PromptQL
AAI Engineer
컴퓨터/소프트웨어경영/리더십
스크립트
00:00:00Muy bien, todos pueden ver.
00:00:15Hola a todos.
00:00:17Gracias por estar aquí.
00:00:18Voy a hablar sobre el hecho de que si deciden
00:00:23construir un cerebro empresarial, probablemente
00:00:25filtrará secretos de la empresa, que es más o menos el gran miedo
00:00:28que tenemos sobre construir un cerebro empresarial de todos modos,
00:00:32que es este caso de que un becario entra a la empresa
00:00:34y de repente obtiene los detalles de compensación y esa clase
00:00:36de situaciones.
00:00:37Quieres protegerte contra eso.
00:00:40Esto ha sido, supongo, prácticamente lo más importante
00:00:43que nos ha estado frenando de simplemente implementar OpenClaw
00:00:47y Hermes por todas partes.
00:00:49También es un poco la razón...
00:00:50es como esta gran oportunidad que ClaudeTag
00:00:52tuvo con su reciente lanzamiento hace unos días, donde
00:00:54iba a ser el cerebro de la empresa,
00:00:56pero luego todos dijeron, bueno, no
00:00:57es... parece que no va a ser el cerebro
00:01:00de la empresa, ¿verdad?
00:01:01Así que voy a hablar de lo que hace que esto sea un desafío.
00:01:03Así que antes de entrar en eso, vamos a entender y diseccionar
00:01:07un poco este asunto del cerebro empresarial, ¿no?
00:01:09Soy Tanmay.
00:01:10Soy el director ejecutivo y cofundador de PromptQL.
00:01:13Pueden ver PromptQL más tarde, pero nuestra experiencia como equipo
00:01:18construyendo esto es que venimos de Hustle Graph...
00:01:21somos creadores del motor Hustle GraphQL.
00:01:23Es un proyecto de código abierto muy popular en el espacio de GraphQL
00:01:26en el que resolvemos muchos problemas de acceso a datos.
00:01:28Lo hemos implementado en todas partes, desde Apple hasta Meta y JPMorgan,
00:01:32etcétera.
00:01:33Y eso nos dio una gran base para...
00:01:39y una especie de relación de amor y odio con los datos
00:01:43y la seguridad de los datos.
00:01:44Así que les voy a mostrar cosas en las que hemos estado trabajando durante
00:01:51el último año y lo que hemos aprendido de ello para que
00:01:53puedan tomarlo, ponerlo en práctica y probarlo
00:01:56por ustedes mismos.
00:01:58Y por supuesto, al final de la charla, con gusto intercambiaré
00:02:01notas y veré qué funciona o qué podría no funcionar para ustedes.
00:02:06Durante el último año, solo nos hemos asociado con un pequeño grupo de
00:02:08personas que han mostrado algún tipo de pico en su escala.
00:02:12Son unas 15 o 20 personas hasta ahora.
00:02:15Y ahora estamos empezando a abrirlo a otras personas.
00:02:17Pero a lo largo de ese tiempo, hemos observado a tres
00:02:20tipos diferentes de personas con necesidades muy distintas.
00:02:22Tienes empresas nativas de IA que están dispuestas a hacer
00:02:25lo que sea con tal de que funcione.
00:02:27Tienes empresas con mentalidad tecnológica, como Instacart,
00:02:30a las que les gusta la mejor tecnología disponible.
00:02:33Así que avanzan rápido.
00:02:34Tienen tolerancia a romper cosas.
00:02:36Pero simplemente tiene que ser muy, muy bueno, ¿verdad?
00:02:38Y luego tienes a los bancos de la lista Fortune 100 que tienen
00:02:41un nivel de seguridad impresionante.
00:02:43Menos mal que lo hacen, porque son mi banco.
00:02:45Definitivamente no quiero agentes de IA programados por intuición
00:02:48corriendo dentro de un banco, porque ahí está mi dinero.
00:02:51Así que tienen muchas reglas de seguridad.
00:02:54Muchas gracias.
00:02:55Pero también estamos implementados en lugares como esos,
00:02:59con los inicios o como el lóbulo frontal
00:03:01de una marca corporativa, ¿verdad?
00:03:02Así que podemos hablar de ese tipo de aprendizajes.
00:03:05Nuestro propio uso personal al construir nuestro cerebro
00:03:10empresarial es de unas 5,000 páginas.
00:03:13Así que lo modelamos como un wiki.
00:03:14Puedes modelarlo como quieras.
00:03:16Puedes modelarlo como un conjunto de archivos Markdown en GitHub.
00:03:17¿Puedes ponerlo en, recuerdan graph frag?
00:03:21Puedes modelarlo en grafos de conocimiento.
00:03:23Puedes hacer lo que quieras.
00:03:25Así que puedes ubicarlo donde quieras.
00:03:27Pero para nosotros son unas 5,000 páginas interconectadas.
00:03:32Pregunta para ustedes.
00:03:33Supongan que tuvieran un cerebro empresarial que estuviera funcionando.
00:03:36Estaba funcionando bien.
00:03:37Estaba todo configurado, ¿verdad?
00:03:40Habría una cantidad diaria de actualizaciones
00:03:41que le ocurrirían a este cerebro empresarial, ¿verdad?
00:03:44Porque estaba aprendiendo cosas de todos en la empresa, ¿verdad?
00:03:47¿Verdad?
00:03:47Desde finanzas, recursos humanos, tus ingenieros y todos los demás.
00:03:52Así que si graficaran el número diario de actualizaciones que ocurren
00:03:55en el cerebro empresarial, ¿cómo se vería más o menos?
00:04:00¿Se vería más o menos como una tendencia a la baja?
00:04:04Como si todos estos fueran gráficos aleatorios.
00:04:05¿O empezaría y luego iría hacia abajo?
00:04:09¿Sería constante, subiendo y bajando a medida que surgen actualizaciones?
00:04:12¿O aumentaría de manera constante hacia arriba?
00:04:16Para pensar, por ejemplo, en cómo sería el historial de confirmaciones
00:04:18de su repositorio de habilidades compartidas, ¿verdad?
00:04:21¿Cuántas actualizaciones ocurren en un cerebro empresarial saludable,
00:04:26verdad, todos los días?
00:04:27¿Cómo se ve esa tendencia?
00:04:29¿Alguien vota por la opción A?
00:04:31¿Alguien cree que es la opción A?
00:04:33Bien, genial.
00:04:34¿Opción B?
00:04:37¿Opción C?
00:04:39Qué bien.
00:04:41Y así, cuando grafiqué lo nuestro, ¿verdad?
00:04:44para ver cómo se ve un cerebro empresarial saludable,
00:04:47si miras el número uno, básicamente dice:
00:04:50Teníamos mucho entusiasmo.
00:04:53Construimos el cerebro empresarial el primer día, el segundo día.
00:04:56Le dimos la tarea a alguien y dijimos:
00:04:57construyan todo el repositorio de habilidades compartidas,
00:04:59extraigan todo Slack, extraigan todos los correos, constrúyanlo,
00:05:02y todos lo usaremos.
00:05:03Y luego a nadie le importa, ¿verdad?
00:05:05O tienes un sistema que autoaprende.
00:05:07Tal vez tengas un Hermes implementado internamente.
00:05:09Así que miro eso donde se están agregando de manera constante
00:05:11más y más comentarios.
00:05:12Sube y baja dependiendo de quién tenga entusiasmo, ¿verdad?
00:05:14¿verdad?
00:05:15Y luego, cuando grafiqué nuestra historia de los últimos dos
00:05:19meses, y esto ya está un poco desactualizado...
00:05:22esto fue lo que obtuvimos.
00:05:24Y me quedé un poco sorprendido.
00:05:26Yo decía, ¿por qué aumenta continuamente?
00:05:30Es una curva suave, ¿verdad?
00:05:32¿Pero por qué sigue subiendo poco a poco?
00:05:34¿Por qué aumenta el número de actualizaciones al día?
00:05:38Y eso fue fascinante de ver para mí.
00:05:39Porque lo que me di cuenta es que si tienes un sistema que empieza
00:05:42a funcionar, lo que pasa es que la gente empieza a enseñarle mucho más.
00:05:46Es como decir, si te enseñé la habilidad para consultar datos, entonces
00:05:50mañana te voy a enseñar la habilidad para interpretar esos datos.
00:05:53Y luego pasado mañana voy
00:05:55a enseñarte la habilidad de cómo tomar medidas en función de eso.
00:05:57Y luego de eso, voy a averiguar
00:05:59cómo hacer pruebas A/B basadas en... así que la gente
00:06:00como tú seguirá añadiendo más continuamente.
00:06:03Pero como todo es un agente donde ninguna cantidad de aprendizaje
00:06:05es perfecta, todo tiene también su propio ritmo constante, ¿no?
00:06:08¿verdad?
00:06:08Así que las tasas como que...
00:06:10incluso tus tasas constantes se van sumando.
00:06:12Y eso es lo que empecé a notar en lo nuestro también.
00:06:15Esto es temprano, así que quién sabe si acabará desvaneciéndose.
00:06:18Tal vez empiece a parecerse más a la opción B.
00:06:20Pero en un cerebro sano, por supuesto, el tamaño general sigue aumentando.
00:06:24Pero incluso tus actualizaciones diarias siguen aumentando también.
00:06:28Así que esa es la señal de un buen cerebro que has construido, ¿no?
00:06:32Un cerebro sano que construiste para tu empresa.
00:06:35Genial.
00:06:36Así que los casos de uso para el cerebro de la empresa es cómo empezamos a analizar cómo
00:06:39construimos un sistema que no filtre secretos, ¿verdad?
00:06:42Así que dos casos de uso.
00:06:44El primer caso de uso es que hay un cerebro de la empresa.
00:06:48Quiero usarlo en mi IA, agente, lo que sea, para hacer el trabajo, ¿verdad?
00:06:55Te mostraré un ejemplo de eso, ¿verdad?
00:06:56Es como si recibiera un correo con un cuestionario de seguridad
00:06:59que necesito responder de un cliente.
00:07:00Y hablo con mi IA y le digo, busca en el cerebro de la empresa
00:07:03y ayúdame a responder el cuestionario de seguridad, ¿verdad?
00:07:05Ese es un caso de uso totalmente válido de un cerebro de la empresa.
00:07:08Segundo, un caso de uso muy útil, ¿verdad?
00:07:10Porque es el conocimiento de otras personas el que llega a mí.
00:07:14El segundo caso de uso de un cerebro de la empresa es algo parecido a cloud tag,
00:07:18que es esta idea de multijugador.
00:07:21Y si has estado poniendo agentes dentro de Slack en lugares donde varias personas
00:07:25pueden interactuar con él, se ha estado usando como una IA compartida, ¿verdad?
00:07:29Es como hacer las cosas.
00:07:32Y un ejemplo de eso podría ser la gestión colaborativa de incidentes, ¿verdad?
00:07:36Así que por ejemplo, quieres decir, oye, quiero buscar registros.
00:07:40Quiero investigar el... hay un incidente.
00:07:42Ve a buscar algunos registros, investiga la base de código, crea la PR, despliega en ensayo,
00:07:46despliega en producción, configura una alerta, ¿verdad?
00:07:48Quieres que varias personas hagan cosas con el cerebro de la empresa.
00:07:51Esos son dos casos de uso del cerebro de la empresa.
00:07:53Uno es este tipo de caso de uso de conocimiento colaborativo compartido,
00:07:56y el otro es el caso de uso de IA compartida en sí mismo, ¿verdad?
00:08:00Ambos tienen un enorme problema de seguridad, ¿verdad?
00:08:06Así que para empezar a asegurarlo, vamos a definirlo con un poco más de fuerza, ¿verdad?
00:08:15¿Qué es exactamente el cerebro de una empresa?
00:08:18Y esta es mi definición de ello, ¿verdad?
00:08:20Es contexto compartido que pondrías en un markdown,
00:08:23que pondrías en un conjunto de archivos markdown, ¿verdad?
00:08:26Y son reglas de control de acceso para los diferentes datos y herramientas
00:08:29a los que quieres acceder según se le da a un agente de programación.
00:08:34Así es como lo llamo para...
00:08:38como estoy hablando, puedo definir lo que quiera.
00:08:41Esa es mi definición.
00:08:42Así que no estoy diciendo que este sea conocimiento introducido en un LLM
00:08:46que vaya a hacer llamadas a herramientas, ¿verdad?
00:08:48No es una IA que hace tareas de propósito general.
00:08:51Es una IA que es un agente de programación que resuelve cualquier problema que le pongas delante, ¿verdad?
00:08:56Bastante similar a... un poco la charla anterior que ustedes podrían haber escuchado,
00:09:00que es esta idea de, oye, ¿podemos simplemente usar un agente de programación para resolver problemas generales?
00:09:04Es eso, ¿verdad?
00:09:05En el caso más trivial, si dices, oye, escríbeme un tuit, estás escribiendo un pequeño script que hace una llamada a la IA para escribir un tuit pequeño, ¿verdad?
00:09:13Probablemente no necesites hacer eso.
00:09:14La IA en sí misma puede simplemente devolverte el tuit.
00:09:17Pero, básicamente, Claude code se usa para todo.
00:09:20Claude co-work tiene la misma arquitectura.
00:09:22La aplicación Codex tiene la misma arquitectura, que es la constatación de que se pueden usar agentes de programación para resolver problemas de propósito general.
00:09:28Así que estamos construyendo el cerebro para eso.
00:09:30No estamos construyendo un gigantesco grafo de conocimiento, base de conocimiento para la empresa y luego intentando asegurarla.
00:09:34Eso, de todos modos, no... no ha funcionado, no funcionará.
00:09:39Así que en cuanto a cómo queremos enfocar el diseño del cerebro de la empresa, verdad, ¿deberíamos construir un cerebro de la empresa?
00:09:50Así que si eres una empresa y te pagan por cruzarte de brazos, entonces te gusta esta idea de construir un cerebro para la empresa.
00:09:57Porque piensas, sí, déjame asumir un proyecto de dos años y construiré el cerebro de la empresa para J.P. Morgan.
00:10:02Eso no va a pasar.
00:10:03No puedes construir el cerebro de una empresa para una organización que tiene, digamos, 100 años, ¿verdad?
00:10:07Apenas puedes construirlo para tu propia familia, ¿verdad?, que puede tener solo meses o años, ¿verdad?
00:10:13Así que la idea y la forma en que queremos construir el cerebro de una empresa es que queremos que cada persona que hace un poco de trabajo en la empresa sea dueña y construya su parte del cerebro de la empresa, ¿verdad?
00:10:23Esa es la forma en que deberíamos construirlo.
00:10:25Esa es una especie de restricción número dos que estoy poniendo.
00:10:27Una era la definición del cerebro de la empresa, y la segunda es el enfoque que queremos adoptar sobre cómo se construye el cerebro de una empresa.
00:10:33Me gusta esta forma de expresarlo, que es que vamos a hacer crecer el cerebro de una empresa, no vamos a construir uno, ¿verdad?
00:10:41Vamos a dejar que surja.
00:10:43Dejar que surja.
00:10:44El sistema tiene que surgir por sí solo, de lo contrario es imposible de construir.
00:10:47De acuerdo.
00:10:48A grandes rasgos, queremos permitir que cada persona autogestione su parte del cerebro de la empresa, y estos son los diversos pasos que debes seguir.
00:10:57Volveré a esto con más detalle si tenemos tiempo, pero empecemos con un caso de uso particular, ¿verdad?
00:11:03Así que en este caso de uso en particular, lo que tengo es este tipo de situación donde este es el ejemplo tangible que quiero tomar para ustedes.
00:11:12Recibí un correo, solo un ejemplo de cuestionario de seguridad, ¿verdad?
00:11:15Oye, recibí un correo de Dave en Stitch Fix, y ese es un montón de preguntas que quiero responder, ¿verdad?
00:11:20Así que abre mi correo, dice que el correo tiene una captura de pantalla de su incorporación de seguridad, y luego empieza a responder a esas preguntas, ¿verdad?
00:11:30No tengo idea de cómo lo supo.
00:11:32Me sorprendió mucho ver que respondió a todas las preguntas sobre, oye, este es nuestro centro de confianza, así es como se ve nuestra seguridad, tienen una pasarela, ¿verdad?
00:11:40Hace algo.
00:11:41Todo esto viene del cerebro de la empresa, ¿verdad?, que es la respuesta a eso, y luego continúo y digo, oye, solo ve y envía esto.
00:11:50Me gusta este borrador, ve y envía este borrador a Dave, ¿verdad?
00:11:53Y luego va y envía ese correo, un ejemplo muy simple de lo que quiero hacer.
00:11:57Ahora bien, el reto aquí, ¿verdad?, y el problema es cómo construimos un sistema, ¿verdad?, al que otra persona pueda contribuir y que una tercera persona utilice?
00:12:13¿Cómo llegó este conocimiento sobre cuál es nuestro asunto de seguridad?
00:12:18Presumiblemente otra persona había estado trabajando en el mismo cuestionario de seguridad, ¿verdad?
00:12:22Así que tenían, digamos, un agente Hermes o lo que sea.
00:12:24Estaban trabajando en ello.
00:12:25Guardaste automáticamente algo de memoria.
00:12:27Tal vez alguien escribió una habilidad.
00:12:28De alguna manera esa pieza tiene que llegar a mi agente de IA.
00:12:32¿Cómo vamos a hacer eso posible, verdad?
00:12:35Ahora, probemos la cosa obvia número uno, ¿verdad?, que es que todos escriben habilidades compartidas para los demás en GitHub.
00:12:42Así que la primera vez que el cuestionario de seguridad fue respondido por tu persona de seguridad, todo el mundo visualizó a su persona de seguridad y cumplimiento en su cabeza, ¿verdad?
00:12:50Ahora, imagina que ellos, después de responder el cuestionario, apesta responder cuestionarios.
00:12:56Después de responder esta gigantesca hoja de Excel de un cuestionario, luego fueron a GitHub y actualizaron una habilidad compartida, ¿verdad?
00:13:04Muchos de ustedes tienen la suerte de trabajar con personas que son modelos a seguir de nuestro Señor y Salvador Cristo, que son tan amables, que van y actualizan habilidades compartidas en un repositorio de GitHub, ¿verdad?
00:13:16La mayoría de la gente no lo hará.
00:13:18Nadie va a escribir habilidades para otra persona en GitHub.
00:13:24O sea, eso no es algo natural para nosotros, ¿verdad?
00:13:27En el día a día del trabajo, de repente no decidimos que, vaya, esto podría ser realmente útil para otra persona que ni siquiera conozco, con la que no estoy conectado en esta situación en el futuro.
00:13:39No va a pasar.
00:13:40Apenas logro que organice un poco mi propia memoria y mi contexto.
00:13:44No tengo tiempo de enviárselo a otra persona ni de anotárselo a alguien más.
00:13:49Segundo, en vez de tener un cerebro de empresa, ¿por qué no hacer un cerebro de equipo?
00:13:53¿Por qué no usan todos uno compartido?
00:13:55¿Por qué el equipo de seguridad no usa una especie de silo más compartido donde puedan hacer esto, verdad?
00:14:01Así que construyes un agente y haces que guarde cosas en la memoria por sí mismo, ¿verdad?
00:14:04Y esa es más o menos la arquitectura que supongo que muchos de ustedes tienen con tal vez algo como un Hermes integrado en Slack.
00:14:09¿Alguien tiene una situación de cerebro de equipo en la que tengan una IA que varias personas usan y que autoguarda memoria y autoañade contexto?
00:14:18¿Alguien tiene algún tipo de habilidad que ya haga eso, solo para un equipo pequeño?
00:14:23Uno. ¿Alguien más? De acuerdo.
00:14:24Bien, algunos de ustedes lo tienen. Genial.
00:14:26Esto está bien, pero el problema es que sigue sin ser un cerebro de empresa porque sigue estando aislado, ¿verdad?
00:14:31Así que es como un silo más, ¿no? Como por ejemplo, si esto se integra, digamos con Cloud Tag, tiene una memoria por canal, ¿verdad?
00:14:40Así que en cada canal se guarda, pero ahora es otro silo en ese único canal, ¿verdad?
00:14:46Así que ahora está, de nuevo, encerrado en un solo lugar que no se puede usar en ninguna otra parte.
00:14:50Así que si alguien fuera añadido al canal, funcionaría, pero por lo demás no funcionaría, ¿verdad?
00:14:55Y esta es la tercera opción.
00:14:59La tercera opción consiste en que todo el contexto vaya a una sola wiki compartida.
00:15:06Una wiki es un conjunto de archivos Markdown, y los archivos Markdown pueden enlazar entre sí.
00:15:08Así que imagina una carpeta gigantesca.
00:15:10La carpeta tiene muchos archivos Markdown, ¿verdad?
00:15:13Y los archivos Markdown pueden enlazar entre sí.
00:15:16Así que todo el contexto, en lugar de guardarlo dentro de una carpeta o aislarlo,
00:15:21lo pones en un archivo Markdown, el equivalente a un archivo Markdown,
00:15:25y dejas que se enlace entre sí.
00:15:28Lo segundo que haces es permitir que cada archivo tenga ámbitos
00:15:33sobre quién puede tener acceso de lectura y escritura a ese archivo.
00:15:38La tercera cosa que haces, que es la más importante,
00:15:42es no dejar que el agente añada la memoria automáticamente.
00:15:49No dejas que lo añada de forma automática porque si lo hace, no tienes ni idea de lo que pasó, ¿verdad?
00:15:55No puedes... volvemos al mismo mundo en el que se añade cierto contenido,
00:16:00y mientras estés en la memoria de ese agente, tienes suerte, ¿verdad?
00:16:04Así que la tercera cosa que haces en lugar de dejar que el agente lo añada solo,
00:16:07es hacer algo que le permita a tu agente sugerir qué se añade y con qué ámbitos,
00:16:16y luego hacer que el humano acepte o rechace.
00:16:21Así que no es tan pesado como GitHub, donde tengo que ir a escribir esto, actualizar una habilidad compartida,
00:16:28hacer una revisión de relaciones públicas y luego fusionarlo.
00:16:30Pero tampoco es tan alocado como que la memoria sea escrita automáticamente por el agente,
00:16:36¿verdad? Es como el punto de equilibrio donde, mientras trabajas,
00:16:40aparece una ventana, sugiere los ámbitos correctos y dejas que alguien lo añada.
00:16:45Así que ahora lo que pasa con esta incorporación tan sencilla, ¿verdad?, es que puedes permitir que la gente añada
00:16:51a una wiki gigantesca, pero dejas que esa persona asuma la responsabilidad de lo que puede ver o no.
00:16:57Así que si estoy añadiendo algo a la wiki de finanzas, quiero asegurarme... estoy añadiendo algo
00:17:01que es sensible, quiero asegurarme de que tenga un ámbito de finanzas.
00:17:03Si estoy añadiendo algo personal, quiero asegurarme de que tenga un ámbito personal.
00:17:06Déjame mostrarte un ejemplo de interfaz de usuario de cómo podría verse esto. Esto es lo que hacemos.
00:17:15Este es un correo reciente que recibí de uno de nuestros representantes de ventas incluyéndome en una llamada.
00:17:33Miré ese correo, ayudé a responderlo y luego me apareció un pequeño cuadro que sugería
00:17:39varios puntos que me indicaban lo que iba a añadir, ¿verdad?
00:17:43Y cuando hago clic en añadir a la wiki... y ahora es mucho más fácil para mí revisar lo que se está añadiendo.
00:17:47No me importa. No me importa si se añade a este archivo Markdown o a aquel otro,
00:17:52de qué enlaces se encarga el agente. Lo que me importa es: ¿son correctos estos datos?
00:17:58Si estos datos son correctos, haré clic en añadir a la wiki y habré terminado, ¿verdad?
00:18:02Y al momento de añadir a la wiki, puedo elegir qué ámbitos deben agregarse por página de wiki o no,
00:18:08¿verdad? Así que cada página de wiki por sí misma puede recibir un conjunto determinado de ámbitos que tú decidas
00:18:12quién tiene acceso a qué, por ejemplo, ¿verdad? Entonces, por ejemplo, mi correo, esta es la página de wiki
00:18:17que tengo para mis correos y cómo se priorizan, y ahora puedo decidir quién tiene acceso
00:18:22a esto, quiénes son los propietarios y cuál es el control de acceso basado en roles (RBAC) para esto. Así que el diseño del sistema
00:18:26depende de ustedes, pero la idea central es que quieren que el agente sugiera un cambio
00:18:32en lugar de hacer el cambio. Muy bien. Así que dos reglas. Uno, asegúrense de que todo vaya a una sola
00:18:38wiki para toda la empresa, no retrocedan ante esta regla. Segundo, asegúrense de que, como parte de ello,
00:18:44cada cambio esté respaldado por el nombre de un humano. No se debe permitir nada dentro de la wiki que diga que Claude
00:18:51añadió esto o que tu agente de IA añadió esto o que Hermes añadió esto. No, Tanmay añadió esto. Ese nombre tiene que
00:18:57estar ahí para que puedas vincularlo con que esta es la persona que la cago y permitió que todos vieran,
00:19:04por ejemplo, el salario de todos, ¿verdad? Y lo que sea. Ahora puedes tomar medidas correctivas,
00:19:09¿verdad? Lo que sea. Ponerlos en un plan de mejora de rendimiento. No sabías cómo editar una wiki. Así que eso es muy,
00:19:14muy importante. Y la regla número dos, una vez que decidas eso, puedes pasar al segundo ámbito de,
00:19:19de acuerdo, tienes que ponérselo fácil para que lo hagan, que es donde entra este asunto de los ámbitos,
00:19:23donde quieres delimitar cada archivo según quién obtiene acceso. Vas a construir una especie de sistema
00:19:26a su alrededor. Así es como se ve un diagrama de arquitectura de eso, donde tienes usuarios,
00:19:32los usuarios hablan con el agente. El agente, cuando está leyendo contexto, usa las declaraciones de ese usuario en particular, ¿verdad?
00:19:39Así que si estoy leyendo algo para resolver un problema de finanzas, utiliza la declaración de finanzas para leer como
00:19:46yo, porque tenía acceso a la wiki de finanzas, así que puedo leerla y eso se hace cada vez,
00:19:52¿verdad? De modo que el agente siempre utiliza las credenciales del usuario para leer la parte correcta de la wiki.
00:20:00Muy bien. Prácticamente se me acabó el tiempo para el segundo caso de uso. Así que lo que voy a hacer es darles un
00:20:06vistazo rápido al segundo caso de uso, pero amplíen esta idea. Este es el caso de uso principal. Este es como,
00:20:13este es el gran caso de uso. Es un caso de uso realmente complicado porque ahora
00:20:17no es solo una persona respondiendo un correo. Somos un grupo de nosotros usando el contexto compartido
00:20:25para resolver un problema con varios niveles diferentes de escalado y privilegios al mismo tiempo,
00:20:31¿verdad? Y estas son las interacciones con la IA donde se genera
00:20:36la mayor cantidad de conocimiento del cerebro de la empresa, ¿verdad? Por ejemplo, les voy a mostrar un ejemplo rápido de la vida real
00:20:42de cómo se ve esto para nosotros. Así que este es un caso de una situación de SRE donde
00:20:50alguien dijo: Oigan, nuestro aprendizaje automático, nuestro aprendizaje en la wiki, bastante meta, estaba fallando. No estaba
00:20:57funcionando. ¿Qué está pasando, verdad? Y entonces comienza a hacer la investigación y es un fastidio porque,
00:21:02no tenía una habilidad. Falló. Así que es como: hermano, no hagas esto. Por favor, usa este nombre de tramo de OpenTelemetry.
00:21:07Usó un nombre de tramo de OpenTelemetry. Hizo un trabajo un poco mejor, pero seguía siendo muy lento. Así que
00:21:13miró el código y dijo: Oh, estás usando una consulta like. Eres un imbécil.
00:21:18Esto es opus 4.5. Um, como... no hagas esto, ¿verdad? Así que luego dice: no uses una consulta like,
00:21:24usa una consulta equals. ¿Verdad? Y luego hace la consulta equals y saca a la luz algunos detalles y,
00:21:29y luego dice: Oh, profundiza más en esto. Y dice, lo que sea, esta es la línea de código de donde
00:21:33proviene el error. Cosas sencillas, ¿verdad? Aquí es donde saca a la luz algo de conocimiento y dice:
00:21:39ajá, aprendí que debo usar equals y no like, ¿verdad? Aprendí que si tienes un prefijo personalizado
00:21:45añadido a los nombres de las páginas de la wiki, puede causar problemas, ¿verdad? Um, así que ofrece estos aprendizajes
00:21:50que puedes optar por aceptar. Así que él profundizó un poco más en cuál era el problema.
00:21:56Otra persona se unió a la conversación, ¿verdad? Y dijo: la decisión técnica que hemos tomado aquí es
00:22:02incorrecta. ¿Por qué está pasando esto? Y ahora dos personas empiezan a discutir, ¿verdad? Discuten.
00:22:09Dicen: Oye, no debería ser así. Debería ser así. ¿Pero por qué es así? ¡Pero debería
00:22:12ser así, verdad? Esa discusión crea conocimiento porque el problema real era que alguien tomó
00:22:17una decisión técnica que no estaba documentada, ¿verdad? Cuando deciden solucionar ese problema y
00:22:22observan que esa es en efecto la causa principal, y deciden que así es como se va a solucionar.
00:22:26Oigan, deberíamos eliminar este prefijo que está causando un problema, lo que sea, sea lo que sea,
00:22:31eso crea el contexto de mayor calidad para añadir a su cerebro. Porque la sugerencia anterior era
00:22:38decir, eh, las páginas no deberían... las páginas tienen un prefijo, pero el hecho de que tengan un prefijo es un problema.
00:22:44¿Verdad? Así que ahora lo que documentas en el cerebro es que las páginas no deben tener un prefijo.
00:22:49Si tienen un prefijo, puede causar problemas de búsqueda en producción. Esto pasa cuando varias personas hablan entre sí
00:22:54y resuelven problemas juntos, ¿verdad? Esto es lo que pasa en un hilo de Slack cuando dos personas hablan entre sí
00:22:59y resuelven un problema. Crea el contexto de mayor calidad. Pero eso es más o menos lo que
00:23:05buscas aquí. Pero el reto es que la escalada de privilegios en torno a esto se vuelve muy, muy seria.
00:23:10Si estás construyendo un agente que puede hacerlo todo rodeado de varias personas, da miedo.
00:23:18Porque al ingeniero se le permitía hacer el trabajo de relaciones públicas, pero ahora puedo usar el mismo agente para
00:23:23implementar en producción. Da demasiado miedo. No puedo tener una conversación donde depuro y
00:23:29despliego de forma segura, ¿verdad? Especialmente si estás en un banco, ¿no? Como que la gente que depura,
00:23:35despliega en ensayo, configura una alerta y hace el despliegue no es la misma. Pero que sea la misma tiene
00:23:40mucho valor porque ahí es donde reside todo el conocimiento, ¿verdad? Y eso nos lleva a la
00:23:45segunda arquitectura, en la que no voy a entrar en muchos detalles. Pero piensen en ello como la misma
00:23:49idea donde las credenciales de usuario y las declaraciones se usaron para leer contexto. En lugar de eso, usen también las credenciales de usuario.
00:23:58¿Verdad? Cuando el código está ejecutando herramientas. Así que nunca almacenen credenciales en el entorno aislado (sandbox).
00:24:05En lugar de eso, en la capa HTTP, en la capa SQL, inyecten las credenciales del usuario, permitiendo que la IA se comporte como
00:24:13el humano en una interacción en particular, ¿verdad? Así que hay detalles interesantes aquí. Pero eso es lo que
00:24:20permite que una IA compartida trabaje con contexto compartido, ¿verdad? Y esas son más o menos las dos piezas clave con
00:24:25las que trabajar. Así que yo resumiría, y esta arquitectura no es particularmente complicada, pero es muy sencilla
00:24:30de deducir a partir de estas dos reglas. No almacenen credenciales en el sandbox de la nube. Y segundo,
00:24:36virtualicen todas las interacciones con datos reales, pónganlas en un proxy, virtualícenlas, la palabra que quieran usar,
00:24:41y dejen que los usuarios las controlen. Así que el usuario que añade una herramienta en particular debe controlar quién obtiene acceso
00:24:48a esa herramienta en particular. De modo que pueden deducir todo esto si simplemente siguen estos cuatro principios
00:24:53y trabajan a partir de ellos. Solo hay una arquitectura posible que tenga sentido
00:24:58sobre cómo gestionas el contexto, qué restricciones configuras, cómo administras las herramientas y qué reglas
00:25:02de seguridad estableces. Se me acabó el tiempo. Así que me alegra conversar más después de la charla. También tenemos un stand,
00:25:10así que con gusto charlaremos más sobre cuáles son los matices dentro de esta arquitectura. Soy Tanmay Goh en
00:25:16Twitter. Nos llamamos PromptQL. Échennos un vistazo. Al final del día, con la comunidad de ingeniería de IA,
00:25:24vamos a hacer un lanzamiento de producto. Y me encantaría compartir eso, amigos, compartir eso con todos.
00:25:30Voy a tomarme una foto con todos en el escenario para poder compartirla. Así que déjenme hacer eso mientras estoy aquí.
00:25:40Muy bien. ¿Quieren decir whisky todos?
00:25:45Muchas gracias. Así que estén atentos a eso. Es nuestro enfoque de Cloud Tag, que es PromptQL Tag,
00:25:52el cual es muy similar a las ideas de las que hablamos aquí, excepto que no están estancados en Cloud.
00:25:57Pueden usar GLM y pueden usar GPT, y luego sale Sol, y podemos usarlo y divertirnos mucho.
00:26:03Así que échenle un vistazo. Y por lo demás, nos vemos pronto, amigos.
00:26:19Volvemos en un momento.