Esta es la capa de memoria que le falta a la IA para programar (Graphify)

Españolالعربية Deutsch English Français हिन्दी Bahasa Indonesia 日本語 한국어 Português Русский 中文

컴퓨터/소프트웨어창업/스타트업AI/미래기술

Transcript

00:00:00Esta podría ser una de las formas más increíbles de dar vida a tu base de código.

00:00:04Si usas Claude Code o Cursor en un proyecto real, crees que lo difícil es escribir código.

00:00:09Bueno, no lo es. Lo difícil es simplemente entender tu propio repositorio.

00:00:13Haces una pregunta y tu IA consume tus tokens solo para intentar entender qué está pasando.

00:00:18Es lento, caro y la mitad de las veces el resultado es mediocre.

00:00:22¿Y si en lugar de enviar todo tu proyecto cada vez, le dieras a la IA un mapa del mismo?

00:00:27Eso es exactamente lo que hace Grafyy, y puede reducir el uso de tokens en más del 70%.

00:00:32Déjame mostrarte cómo funciona todo esto.

00:00:34Ahora mismo, tu IA ve tu proyecto así. Solo un montón de archivos.

00:00:44No hay conexiones reales. No hay estructura. No hay memoria.

00:00:48Así que cada vez que haces una pregunta, tiene que volver a aprenderlo todo desde cero.

00:00:53Por eso las respuestas parecen cercanas, pero no del todo correctas.

00:00:56Y sí, esto es exactamente lo que señaló Karpathy con el problema de la "carpeta sin procesar".

00:01:01Grafyy apareció justo después de eso. Es más como una capa de memoria.

00:01:06Si disfrutas de herramientas de programación y consejos como este, asegúrate de suscribirte.

00:01:09Tenemos videos nuevos constantemente.

00:01:11Muy bien, ahora te muestro. Tengo un repositorio pequeño aquí. Código, documentos, diagramas.

00:01:16Normalmente tendría que explicarle todo esto a la IA cada vez.

00:01:20En su lugar, ejecuto un comando, Grafyy, justo aquí. Espera un segundo. Ahora mira esto.

00:01:27Tras ejecutar Grafyy con Claude, esto ya no son solo archivos. Es un grafo real.

00:01:33Todo está conectado. Puedo hacer clic y diseccionar exactamente qué está pasando

00:01:38y qué está vinculado dentro del archivo HTML que generó.

00:01:42En vez de pedirle a la IA que lea todo de nuevo, puedo preguntarle qué conecta con la capa API.

00:01:50Y ahora responde usando relaciones, usando el archivo MD que generó con esta llamada.

00:01:56No son suposiciones, son relaciones. Y aquí está la parte que me sorprendió.

00:02:00Antes de esto, se usaban unos 14,000 tokens, o los que fueran.

00:02:04Después, tras la primera ejecución, bajamos a quizás un par de cientos.

00:02:09Misma pregunta, costo totalmente diferente. Todo gracias a este mapa generado.

00:02:14¿Qué está haciendo realmente? Grafyy es básicamente como Google Maps para tu base de código.

00:02:20En lugar de texto sin procesar, obtienes nodos y conexiones.

00:02:24Por debajo, usa "tree-sitters" para entender la estructura y un LLM para extraer el significado.

00:02:30Luego puede agrupar todo en clústeres, y no es solo código.

00:02:35Lee PDFs, diagramas, incluso audio y video. Todo localmente, nada sale de la máquina.

00:02:41Lo que obtienes de esto es simple. Tenemos un grafo visual, un informe escrito

00:02:46y una base de conocimientos que realmente podemos explorar.

00:02:49Este grafo visual es fundamental para muchos, ya que vemos cómo se conectan las cosas.

00:02:54Aquí es donde esto cambia la forma en que suele funcionar la programación con IA.

00:02:57La mayoría de herramientas usan RAG, que básicamente busca fragmentos de texto similares.

00:03:03Bueno, Grafyy no hace eso. Construye relaciones reales.

00:03:07Esta función llama a aquella. Este módulo depende de ese otro.

00:03:11Esta idea vino de este documento, e incluso te dice qué tan confiable es la información.

00:03:16Así que en lugar de un "esto parece relacionado", obtenemos un "esto está conectado"

00:03:21en una representación visual real de lo que está vinculado.

00:03:24Y la mayor diferencia: también recuerda, ya que nos generó ese archivo MD

00:03:30que puede consultar. No empezamos de cero cada vez.

00:03:33Actualiza solo lo que cambió para que tu IA tenga finalmente un contexto persistente.

00:03:38Muy bien, la verdad es que todo esto me pareció genial.

00:03:42Pero, ¿cuáles son los puntos buenos y malos ahora mismo?

00:03:44Lo primero a destacar es que la eficiencia se acumula.

00:03:47Cada pregunta es más barata. Y al conectar código,

00:03:51documentos y diagramas, empiezas a encontrar relaciones que ni sabías que existían.

00:03:56Eso es enorme para el "onboarding" en esos proyectos caóticos en los que nos meten.

00:04:00Eso es genial. Ahora, las desventajas de todo esto son estas.

00:04:03La primera ejecución puede ser lenta y costar tokens, sobre todo con muchos documentos.

00:04:08Después de eso se guarda en caché, pero sí, ese primer impacto es real.

00:04:12También está en fase inicial, por lo que el soporte a largo plazo es aún incierto y limitado.

00:04:17Cuando instales esto, es "grafyy" con dos íes griegas, no una.

00:04:20Revisa bien cómo se escribe. Las relaciones no siempre son perfectas,

00:04:23pero las etiqueta claramente: extraídas, inferidas o ambiguas,

00:04:28para que sepas en qué puedes confiar. Y si tu repositorio es diminuto,

00:04:32esto va a ser algo excesivo. Entonces, ¿vale la pena?

00:04:35Yo digo que sí, si usas IA en algo serio, esto es genial.

00:04:38Creo que vale la pena porque tu mayor problema no es ejecutar el código,

00:04:42sino entenderlo a través de archivos, del tiempo y del contexto.

00:04:46Y eso es exactamente lo que esto soluciona. El ahorro de tokens ya justifica probarlo,

00:04:51pero la mayor victoria es esta: tu IA deja de adivinar y empieza a razonar.

00:04:56Si trabajas solo, investigas o manejas sistemas grandes, esta es una mejora seria.

00:05:01Si solo trabajas en scripts pequeños, probablemente sea demasiado,

00:05:04así que no necesitas probarlo realmente. Pero para la mayoría de desarrolladores,

00:05:07esta será una herramienta increíble. Si te gustan las herramientas de código

00:05:10que aceleran tu flujo de trabajo, suscríbete al canal de Better Stack.

00:05:14Nos vemos en otro video.

Key Takeaway

Graphify transforma repositorios de código en grafos relacionales persistentes que reducen el uso de tokens en un 70% al evitar que la IA aprenda la estructura del proyecto desde cero en cada consulta.

Highlights

Graphify reduce el consumo de tokens en más del 70% al proporcionar un mapa relacional del código en lugar de archivos aislados.
La herramienta utiliza tree-sitters para analizar la estructura del código y un modelo de lenguaje para extraer significados locales.
El procesamiento inicial puede reducir una consulta de 14,000 tokens a solo un par de cientos en ejecuciones posteriores.
El sistema funciona localmente y procesa diversos formatos como código, archivos PDF, diagramas, audio y video.
Graphify clasifica la información según su nivel de fiabilidad en tres categorías: extraída, inferida o ambigua.
La primera ejecución del sistema genera un impacto real en el costo y tiempo de procesamiento antes de recurrir a la memoria en caché.

Timeline

Limitaciones del procesamiento de archivos sin procesar

Las herramientas de IA actuales consumen tokens excesivos al intentar entender la estructura de repositorios desorganizados.
La ausencia de conexiones y memoria estructural obliga a la IA a aprender el contexto desde cero en cada pregunta.
Los resultados mediocres derivan de la falta de un mapa de relaciones entre los archivos del proyecto.

El entendimiento de la base de código representa el mayor desafío técnico por encima de la escritura de líneas de código individuales. El problema de la carpeta sin procesar genera respuestas lentas, caras y poco precisas debido a que la IA no percibe conexiones reales entre los archivos. Esta ineficiencia se traduce en un gasto constante de recursos sin un beneficio acumulativo de memoria.

Funcionamiento de la capa de memoria de Graphify

Graphify genera un grafo visual donde cada componente del código está vinculado explícitamente.
Las consultas posteriores a la generación del mapa consumen una fracción mínima de los tokens originales.
El sistema crea un archivo MD persistente que sirve como base de conocimientos para futuras llamadas.

Tras ejecutar el comando Graphify, el repositorio deja de ser una lista de archivos para convertirse en una estructura de nodos interconectados. En una prueba con Claude, una consulta que inicialmente requería 14,000 tokens se redujo a unos pocos cientos tras generar el mapa relacional. Este cambio permite que las respuestas se basen en relaciones técnicas reales y no en suposiciones estadísticas de la IA.

Arquitectura técnica y procesamiento local

El análisis estructural se basa en el uso de tree-sitters combinados con un LLM para la extracción de contexto.
La privacidad de los datos se mantiene mediante el procesamiento local de toda la información del usuario.
Graphify identifica dependencias directas entre funciones y módulos en lugar de buscar fragmentos de texto similares.

A diferencia de los sistemas RAG tradicionales que dependen de la similitud de texto, esta herramienta mapea jerarquías y dependencias lógicas. El motor analiza no solo el código, sino también documentos auxiliares, diagramas y contenido multimedia para integrar todo en un clúster de conocimiento. Este contexto persiste y se actualiza únicamente en las secciones que sufren cambios, evitando el re-procesamiento total.

Evaluación de eficiencia y casos de uso

La eficiencia económica y operativa del sistema aumenta exponencialmente con cada pregunta realizada.
El costo computacional y de tokens es significativamente alto durante la primera ejecución de proyectos grandes.
Los sistemas masivos y el proceso de integración de nuevos desarrolladores obtienen el mayor beneficio de esta herramienta.

La herramienta resulta ideal para gestionar sistemas complejos o proyectos con documentación caótica donde entender la arquitectura es la prioridad. Aunque la fase inicial es lenta y puede ser excesiva para scripts pequeños, el ahorro de tokens justifica su implementación en entornos profesionales. La IA transiciona de un estado de adivinación a uno de razonamiento basado en un mapa de navegación preciso del software.

Community Posts

Write about this video