Torno seus agentes de IA previsíveis com engenharia de grafos - Zachary Blumenfeld, Neo4j

Highlights

• A engenharia de grafos define a prática de projetar o trabalho de agentes como um grafo explícito, onde os nós realizam o trabalho e as arestas roteiam o estado.

• A conversão de texto em prosa e arquivos de habilidades em estruturas de grafos reais e scripts determinísticos aumenta significativamente o desempenho das tarefas.

• O armazenamento de grafos em uma camada de conhecimento baseada em Neo4j permite a portabilidade de artefatos entre diferentes tempos de execução de agentes.

• A automação de processos de aprovação de empréstimos utilizando grafos de contexto e procedimentos reduz o tempo de execução e diminui drasticamente os custos operacionais.

• O uso de modelos mais simples, como o Haiku, em conjunto com procedimentos compilados em grafos, acelera o tempo de resposta e reduz o uso de recursos computacionais.

Timeline

1. 00:00:00 - 03:03:00

   Introdução à engenharia de grafos e evolução dos agentes

   O conceito remete a discussões recentes sobre como organizar fluxos de trabalho utilizando máquinas de estado e grafos de conhecimento. Embora os mecanismos fundamentais já existam na ciência da computação, a novidade reside na forma como são aplicados aos agentes autônomos para garantir maior previsibilidade, controle e capacidade de auditoria.

   • A engenharia de grafos surge como uma evolução conceitual da engenharia de prompt e de contexto aplicada a agentes.
   • A prática consiste em estruturar o trabalho de agentes em grafos explícitos com nós de execução e arestas de roteamento de estado.
   • Três tipos principais de grafos estruturam essa abordagem: execução geral, contexto e grafos procedimentais.
2. 03:03:00 - 08:10:00

   Camada de conhecimento e portabilidade de artefatos no Neo4j

   A arquitetura proposta posiciona a camada de conhecimento de modo a integrar fontes diversas, como bancos de dados corporativos e arquivos Markdown. Essa estrutura armazena rastros de decisões e metadados versionados, permitindo que os grafos sejam movidos entre diferentes ambientes de execução sem perder a proveniência ou a capacidade de governança.

   • O Neo4j atua como uma camada de conhecimento situada entre os sistemas de registro e os tempos de execução dos agentes.
   • Os grafos de contexto armazenam diferentes tipos de memória, incluindo histórico de conversas e entidades extraídas.
   • Habilidades procedimentais em texto podem ser compiladas em estruturas de grafos determinísticos para otimizar a execução.
3. 08:10:00 - 10:47:00

   Aplicações práticas e estudos de caso em conformidade e empréstimos

   Casos de uso reais demonstram a eficácia da abordagem em cenários corporativos exigentes. A gestão de microsserviços e regulamentações de transporte em diferentes regiões, bem como a redação automatizada de relatórios de conformidade financeira, comprova a utilidade de manter a lógica de negócios atrelada aos dados.

   • Empresas como a Uber utilizam grafos de configuração para gerenciar regras de conformidade geográfica complexas.
   • O processamento de relatórios de auditoria e regulação financeira beneficia-se da resolução de entidades em grafos.
   • A unificação de dados de múltiplas fontes em grafos de contexto automatiza tarefas reguladas de forma confiável.
4. 10:47:00 - 20:25:00

   Demonstração prática de aprovação de empréstimos e ganhos de eficiência

   A demonstração prática ilustra a transição de um agente autônomo sem restrições rígidas para um sistema baseado em habilidades compiladas em grafos. Ao retirar a carga de tomada de decisão de roteamento do modelo e transferi-la para scripts determinísticos, o sistema alcança maior velocidade, menor taxa de erro e custos de processamento substancialmente menores.

   • Um processo de aprovação de empréstimo demonstra a compilação de políticas complexas em formatos YAML baseados em grafos.
   • A execução programática via interface de linha de comando substitui o roteamento autônomo e arbitrário do agente.
   • O uso de procedimentos compilados reduz o tempo de execução pela metade e diminui consideravelmente os custos operacionais.