Cérebros vs Mãos: Como Executar Agentes de IA com Segurança em Produção — Viren Baraiya

Highlights

• A infraestrutura de execução de agentes de IA em produção deve ser tratada como uma aplicação completa e não como um simples componente ou chatbot.

• A responsabilidade central de um LLM não determinístico é planejar as ações, enquanto a execução real das tarefas cabe a um arcabouço determinístico.

• Fluxos de trabalho agênticos funcionam como sagas vinculadas tardiamente, onde o agente propõe e monta as ferramentas e tarefas finitas em tempo de execução.

• O arcabouço de execução precisa garantir idempotência e registrar efeitos colaterais inevitáveis.

• Operações críticas, como a reinicialização de clusters em produção, exigem portões de aprovação humana determinísticos em vez de decisões autônomas do LLM.

Timeline

1. 00:00 - 03:02

   A evolução dos agentes de IA além dos chatbots

   Casos de uso em produção ultrapassam a simples interface de bate-papo. Agentes monitoram logs em tempo real por meio de ferramentas como OpenTelemetry, reagem a alertas do sistema e cooperam em arquiteturas multiagentes. O isolamento de responsabilidades entre agentes evita que uma única entidade execute tarefas excessivas, minimizando a ocorrência de alucinações.

   • Os exemplos iniciais de agentes focavam em chatbots e chamadas simples de ferramentas.
   • Sistemas agênticos modernos operam como trabalhadores em segundo plano, executados por agendamento ou orientados a eventos.
   • Sistemas multiagentes reduzem alucinações ao dividir tarefas complexas entre múltiplos agentes com responsabilidades específicas.
2. 03:02 - 07:27

   A arquitetura de aplicação e os arcabouços agênticos

   Assim como microsserviços seguem o princípio de responsabilidade única e interagem via orquestração, os arcabouços (harnesses) conectam agentes a bancos de dados, APIs e intervenções humanas. Processos determinísticos — como fluxos de pagamento ou reinicializações de clusters — precisam ser rigidamente protegidos contra o comportamento probabilístico do LLM. O arcabouço precisa sustentar a execução por períodos que variam de segundos a meses, suportando interrupções no ambiente de nuvem.

   • Um agente isolado não resolve problemas complexos; o arcabouço é a aplicação real.
   • Arcabouços combinam etapas determinísticas da infraestrutura com o raciocínio não determinístico do LLM.
   • Processos de longa duração exigem durabilidade como requisito básico para tolerar falhas de rede e reinicializações de infraestrutura.
3. 07:27 - 11:49

   Separação de responsabilidades: Cérebro vs Mãos

   O arcabouço mantém o estado do sistema, registrando quais tarefas e efeitos colaterais foram concluídos. Quando uma ação crítica é necessária, como reiniciar um cluster de produção, o arcabouço intercepta a intenção e exige autorização humana via Slack, impedindo que alucinações acionem comandos destrutivos. Essa estrutura equivale aos padrões tradicionais de saga, mas com os ramos de execução montados dinamicamente com base nas ferramentas disponíveis.

   • O agente (cérebro) é responsável pelo planejamento, enquanto o arcabouço (mãos) é responsável pela execução.
   • Validações e aprovações humanas em operações de risco devem ser geridas por código determinístico.
   • Arcabouços agênticos operam como sagas vinculadas tardiamente criadas dinamicamente em tempo de execução.
4. 11:49 - 16:39

   Demonstração prática de remediação SRE autônoma

   Uma demonstração prática ilustra um agente de SRE analisando logs de erro, consultando métricas e gerando uma sequência de etapas para reverter uma implantação. O plano do agente é compilado e executado através do Conductor. Na segunda iteração do loop de remediação, o arcabouço identifica que a reversão já foi realizada com sucesso, impedindo a execução duplicada e prosseguindo para as verificações finais do sistema.

   • Um agente SRE propõe uma sequência de etapas de remediação que é compilada em um fluxo de trabalho executável.
   • O motor de fluxo de trabalho garante que ações concluídas em uma iteração anterior não sejam repetidas desnecessariamente.
   • Plataformas de orquestração de código aberto como o Conductor suportam o gerenciamento de ciclos de vida agênticos.