Sem Memória, Sem Arnês: Por Que o Banco de Dados É a Última Linha de Defesa — Kay Malcolm, Oracle
AAI Engineer
컴퓨터/소프트웨어경영/리더십AI/미래기술
스크립트
00:00:00Tanya Cushman Revisor: Peter van de Ven
00:00:12Pessoal, estamos nos divertindo?
00:00:15Ah, vocês vão ter que me dar muito mais do que isso.
00:00:18Então deixe-me dizer, meu nome é Kay Malcolm.
00:00:21Sou uma instrutora de hip-hop aposentada.
00:00:24Então, se eu não conseguir mais energia do que isso, vamos começar --
00:00:28vocês estão se divertindo?
00:00:30Beleza, tudo bem.
00:00:32Então é sobre isso que vamos falar hoje.
00:00:36Agora, vocês já ouviram muito sobre duas letras.
00:00:39Alguém quer adivinhar quais são essas duas letras
00:00:41sobre as quais vou falar hoje?
00:00:43Essa foi muito boa, DB.
00:00:48Vou falar sobre IA,
00:00:50mas vou falar especificamente sobre estruturas de agentes.
00:00:54Mas antes de fazer isso, quero apresentar todos vocês a algumas pessoas.
00:00:57Tudo bem?
00:00:59Sim ou com certeza?
00:01:00Tudo bem?
00:01:01Sim.
00:01:02Eu dei opções.
00:01:04Sim?
00:01:04Enfim.
00:01:05Tudo bem.
00:01:05Beleza, tudo bem.
00:01:06Esta é a minha equipe.
00:01:09Eu gerencio uma equipe de gerenciamento de produtos de banco de dados outbound na Oracle.
00:01:14Estou na Oracle há muito tempo, 20 anos.
00:01:17História engraçada.
00:01:18Comecei quando tinha 12 anos, então não façam as contas
00:01:21e não comecem a somar na cabeça de vocês.
00:01:24E nós temos um problema.
00:01:27Esse problema é que eu tenho um grupo que faz desenvolvimento de plataforma.
00:01:33E então eu tenho outro grupo que faz desenvolvimento de conteúdo para o Live Labs,
00:01:37uma plataforma que eu mesma escrevi.
00:01:40Então, é, eu sou engenheira, mas também sou meio que uma desenvolvedora de fachada.
00:01:44E aí eu tenho outro grupo que faz controle de qualidade.
00:01:48E depois eu tenho outro grupo que faz o meu desenvolvimento front-end.
00:01:52Com a IA, foi isso que eu descobri como líder.
00:01:57Porque na era da maximização de tokens de 2025, porque sabem que não estamos mais maximizando tokens, né?
00:02:05Agora nós fazemos IA responsável.
00:02:08Mas na era da maximização de tokens, a coisa que eu descobri foi que, embora a IA estivesse tornando os indivíduos
00:02:15da minha equipe mais rápidos, ela estava criando outro problema.
00:02:23Ela não estava tornando minha equipe mais produtiva.
00:02:28E o motivo era que, quando uma equipe da Holanda fazia o commit de código às 4h da manhã para mim,
00:02:37porque eu tenho metade da minha equipe na EMEA e metade da minha equipe aqui nos Estados Unidos.
00:02:43Eles faziam o commit do código, mas não faziam o commit do contexto do codex.
00:02:49Nós usamos o codex na Oracle.
00:02:51Então, quando a equipe dos EUA acordava,
00:02:56eles recebiam o código, mas nenhuma informação sobre o contexto.
00:03:00Então, usamos a IA para resolver um problema que a própria IA criou.
00:03:07E foi isso que fizemos.
00:03:08Ah, bem, deixe-me falar sobre isso primeiro.
00:03:10Então, alguns dos problemas.
00:03:12O contexto, como eu disse, não era compartilhado.
00:03:15O GitHub não estava rastreando isso.
00:03:18Eu tinha repositórios que estavam divergindo.
00:03:21E eu estava perguntando aos gerentes que trabalham para mim: o que está acontecendo com as equipes de vocês?
00:03:26Por que não estamos indo mais rápido?
00:03:29Estamos gastando todo esse dinheiro em tokens.
00:03:31Estamos gastando todo esse dinheiro em IA.
00:03:33No entanto, algo está faltando porque ainda gastamos tempo
00:03:37fazendo testes e validação.
00:03:39Portanto, nosso resultado líquido não estava realmente funcionando para nós.
00:03:45Porque o Git registra o código e não a intenção humana.
00:03:49Então, é um problema.
00:03:50E embora a criação de código já não fosse o nosso problema, ainda tínhamos um gargalo.
00:04:03Precisávamos de uma camada de colaboração.
00:04:05Agora, eu tenho membros da minha equipe na plateia.
00:04:10Então, não me julguem.
00:04:12E vocês sabem quem são.
00:04:13Não estou dizendo que vocês não colaboraram.
00:04:17Mas agora temos um novo membro na equipe.
00:04:20E esse novo membro da equipe é a IA.
00:04:23Portanto, precisávamos descobrir como rastrear nosso progresso e nossos próximos passos.
00:04:29Como racionalizar as decisões que o agente estava tomando.
00:04:39Precisávamos descobrir como resolver dúvidas e conflitos.
00:04:45Certo.
00:04:48Segurem meu problema.
00:04:49Vocês todos vão segurar meu problema para mim?
00:04:51Aqui mesmo.
00:04:51Vamos apenas guardar isso numa caixinha.
00:04:54Deixe-me definir o que é realmente um agente corporativo.
00:04:59Agora, a maioria das pessoas pensa que um agente corporativo é o modelo e o fluxo de trabalho.
00:05:05Quantas pessoas concordam comigo?
00:05:08Caramba, essa plateia é difícil.
00:05:10Certo, uma pessoa.
00:05:12Certo, o resto de vocês acha que é um pouco mais.
00:05:14Ok, vamos ver o quê.
00:05:18Poderia ser que um agente corporativo de verdade tenha ferramentas?
00:05:26As ferramentas são como ele faz as coisas.
00:05:30Contexto.
00:05:33O contexto, essa é uma janela de contexto.
00:05:35Isso é o que está no prompt real.
00:05:39Memória.
00:05:43E se você está pensando: mas espere, Kay, memória.
00:05:46Você acabou de dizer que o modelo é tipo o cérebro da operação.
00:05:51Segurem aí.
00:05:52Vamos falar um pouco mais sobre memória.
00:05:55Recuperação.
00:05:57Porque você não quer recuperar tudo.
00:05:58Então, isso é ser capaz de trazer de volta a informação certa.
00:06:03E então, eu sei que há muitos desenvolvedores aqui, e vocês não se importam com segurança.
00:06:11Eu me importo com segurança.
00:06:13Porque eu trabalho para a empresa de banco de dados mais segura.
00:06:17E eu costumava trabalhar para uma agência que não tem nome.
00:06:22Mas as diretrizes de segurança também são importantes.
00:06:25Isso é a estrutura.
00:06:27Eu falo por analogias e conto histórias.
00:06:31Porque se eu disser isso e Marvel, vocês sabem exatamente do que estou falando.
00:06:38Então, o agente, pensem nele como o modelozinho, um cérebro flutuando num jarro de vidro.
00:06:46Mais esta estrutura.
00:06:49Essa estrutura é o corpo.
00:06:52Portanto, é como o agente realmente pode fazer as coisas e realizar tarefas.
00:06:58Aquela memória, essa é a parte do sistema nervoso central.
00:07:03E lembrem-se, o sistema nervoso central conecta o cérebro ao resto do corpo.
00:07:08Pernas, braços.
00:07:10Essa é a parte do sistema nervoso central que carrega o contexto.
00:07:16Então, vocês se lembram do meu problema com o git?
00:07:20O que eu precisava era de memória.
00:07:21Certo.
00:07:22Portanto, existem vários tipos de memória.
00:07:26Eu escolhi cinco, os cinco mais comuns sobre os quais as pessoas falam.
00:07:29E esses são os que eu quero que vocês lembrem.
00:07:32A primeira é a memória de curto prazo.
00:07:34Essa é a sessão, certo?
00:07:36E assim, se você está armazenando memória de um processo de IA, ou seja, a memória de curto prazo é,
00:07:44se você está com o chat, cloud code, certo, codex, escolha o seu veneno.
00:07:49A memória de longo prazo é o que persiste entre as sessões.
00:07:55Memória episódica, hmm, o que aconteceu da última vez que interagi com preencha-a-lacuna?
00:08:06Essa é a sua memória episódica.
00:08:09Memória procedural.
00:08:11Ferramentas.
00:08:12Passos que foram tomados.
00:08:15E finalmente, a memória semântica.
00:08:17E memória semântica, porque estamos falando de agentes corporativos.
00:08:21Não estamos falando do agente que eu construí, Sasha Fierce.
00:08:25Porque lembrem-se, eu disse a vocês que sou dançarina.
00:08:28Então, é claro que minha chefe de gabinete vai se chamar Sasha Fierce, porque essa era a Beyonce.
00:08:34Algum fã da Beyonce?
00:08:37Ok, desculpem.
00:08:38Tudo bem.
00:08:38Temos que nos concentrar.
00:08:40Certo.
00:08:40Então, esses são os tipos de memória.
00:08:43Agora, quando você está definindo este agente corporativo real nesta memória,
00:08:49há algo que você precisa considerar, onde armazená-la.
00:08:53E então, vou contar uma história para vocês.
00:08:55Mas, quando eu contar a história, vocês têm que me prometer que não vão me julgar.
00:09:00Vocês prometem?
00:09:06Vocês prometem?
00:09:08Você não está me gravando, né?
00:09:10Porque isso não me deixa em uma situação muito boa.
00:09:12Beleza.
00:09:12Tudo bem.
00:09:12O mundo dos dados era bem simples.
00:09:14Trabalho na Oracle há muito tempo, mas vim de um cliente.
00:09:17O nome desse cliente era Southern Company.
00:09:19Era uma empresa de energia.
00:09:20Eu moro em Atlanta.
00:09:22E fui contratada na Southern Company porque eu era uma fera em otimização de performance.
00:09:28Você tinha uma consulta SQL.
00:09:29Quer dizer, estou entregando a minha idade, mas enfim.
00:09:31Você tinha uma consulta SQL.
00:09:32Eu conhecia todos os parâmetros do init.ora.
00:09:34Até aqueles em que você ligava para o suporte e eles diziam:
00:09:36não lembrem disso.
00:09:37Não anotem.
00:09:38Eu anotava no meu caderninho.
00:09:40Eu conseguia otimizar uma consulta até o último limite.
00:09:43Aí, um de vocês apareceu na minha mesa.
00:09:47Porque, quer dizer, o mundo era feito de linhas e colunas.
00:09:50Eram tempos ótimos nos meus dias de Al Bundy.
00:09:55E disse: ei, preciso armazenar dados não estruturados.
00:10:01Por quê?
00:10:02Por que você faz isso?
00:10:04E aí, sendo eu a Kay, a DBA aplicada, pensei:
00:10:09deixa eu ver isso aqui e depois te dou um retorno.
00:10:13Será que dei um retorno?
00:10:16Não dei retorno.
00:10:18Agora, o que vocês precisam saber sobre a Southern Company era que
00:10:21para cada sistema de banco de dados que um DBA gerenciava,
00:10:24eu tinha que participar de duas reuniões.
00:10:26Hoje em dia, quando ouço falar em Sarbanes-Oxley,
00:10:28ainda me dá um pouco de ânsia de vômito.
00:10:31Então, eu tinha que participar de uma reunião de segurança e outra de atualizações.
00:10:34Toda semana.
00:10:35Sem falta.
00:10:37Agora, como esse desenvolvedor instalou um banco de dados especializado em dados não estruturados...
00:10:44Olha, tem gente muito inteligente aqui na sala.
00:10:46Para quantas reuniões eu estou indo agora?
00:10:54Quatro.
00:10:55Certo, fiquei um pouco irritada, mas pensei: beleza, a gente dá conta.
00:10:59Aí eles disseram: Kay, já que você é tão boa em otimização,
00:11:03preciso que você descubra esse relacionamento.
00:11:06A forma como a Southern Company funcionava...
00:11:08tinha aquele aplicativo de “pessoas podem morrer”.
00:11:11E era como um celular Nokia que o pessoal usava para subir nas torres, sabe?
00:11:18Então, vocês já passaram por tempestade em que a luz acaba, certo?
00:11:22E aí você tem quase certeza de que em uma ou duas horas a energia vai voltar.
00:11:27Pois é, aquele sistema que avisava o pessoal que escalava aquelas árvores
00:11:32e arriscava a vida para restabelecer a energia às vezes dava falsos positivos
00:11:37ou falsos negativos.
00:11:39Então, eles queriam analisar todos os outros postes na região
00:11:46para tentar evitar os falsos positivos ou falsos negativos.
00:11:50E eu fiz isso usando uma consulta SQL.
00:11:52E ficou incrível.
00:11:53Era uma instrução com cinco níveis de union all aninhados.
00:11:57Foi um dos meus melhores trabalhos.
00:11:59Bem, podia demorar uns 20 minutos para rodar, mas era como um precursor de grafos.
00:12:06É, eles instalaram o Neo4j.
00:12:10Então, agora, para quantas reuniões eu estou indo?
00:12:13Seis.
00:12:14Isso é um problema.
00:12:16Aí eu... ah, espere, acabei me adiantando.
00:12:19Então, sabe o que eu fiz?
00:12:20Eu me demiti.
00:12:23Eu fui embora e vim para a Oracle porque pensei: isso é um problema e talvez eu possa ir para a Oracle
00:12:26para ajudar a resolvê-lo.
00:12:27Aí o Joe Mundy me ligou e disse: “Ei, nós estamos instalando o Redis.
00:12:33A Oracle está atrasada.
00:12:35Nós temos um banco de dados vetorial.”
00:12:37Entendi.
00:12:40Mas aí está o problema, Joe.
00:12:45Os agentes agora precisam de acesso a todos esses dados.
00:12:49Então, se os dados estão em um banco de dados Oracle, se depois também estão em um banco JSON não estruturado,
00:12:55se estão em um banco de dados de grafos e em um banco vetorial, onde fica a sua única fonte da verdade?
00:13:03O agente tem que descobrir isso.
00:13:04Às vezes ele vai acertar.
00:13:08Na maioria das vezes ele vai errar e vai gastar um monte de tokens.
00:13:12E agora, se você quer armazenar sua memória em algum lugar, pode salvar em um sistema de arquivos.
00:13:20Você pode armazenar no Claude ou no ChatGPT, porque todos nós conhecemos o arquivo memory.md.
00:13:29Mas isso vai dar problema.
00:13:31Agora, quero ilustrar isso.
00:13:32Preciso de quatro voluntários.
00:13:33Eu consigo ver vocês.
00:13:34Levantem a mão.
00:13:35Um.
00:13:36Dois.
00:13:37Certo, não consigo...
00:13:38Três.
00:13:40Preciso de um quarto.
00:13:41Ah, o quarto lá no fundo.
00:13:42Beleza, o quarto lá no fundo.
00:13:44Você vai ser o nosso velho confiável.
00:13:47Você vai ser um banco de dados relacional.
00:13:48Combinado?
00:13:50Você entendeu a sua atribuição?
00:13:52Certo, e tinha alguém aqui.
00:13:54Você vai ser o meu banco de dados não estruturado.
00:13:57E onde estava o outro... ah, muito bem.
00:14:00Você vai ser o meu banco de dados de grafos.
00:14:02Tudo bem?
00:14:02O cara dos relacionamentos.
00:14:03Você tem cara de quem entende de relacionamentos.
00:14:05Muito bem.
00:14:06O quarto.
00:14:06Onde estava o quarto?
00:14:09Era você?
00:14:09Isso.
00:14:10Isso, você é o meu banco de dados vetorial, ok?
00:14:15Agora, todo mundo bem, bem quietinho.
00:14:20Meus quatro voluntários, preciso que todos vocês...
00:14:24Eu vou dizer algo a vocês,
00:14:27e quero que decidam como vão armazenar
00:14:31e quem vai ter a única fonte da verdade.
00:14:33Vocês não podem levantar dos assentos e têm que sussurrar,
00:14:37porque se falarem alto, são cinco tokens a mais para vocês.
00:14:40Combinado?
00:14:41Certo, estamos prontos?
00:14:42Beleza.
00:14:44A vaca pulou sobre a lua.
00:14:48Valendo.
00:14:51Hmm.
00:14:53Isso não funciona direito, né?
00:14:55Isso é um problema.
00:14:56Entendeu?
00:14:58Oracle, e se vocês não esquecerem uma coisa...
00:15:02se esquecerem de tudo o que eu disse, mas lembrarem de uma coisa:
00:15:06a Oracle não é a Oracle que vocês pensam.
00:15:09É por isso que estou aqui hoje.
00:15:11Quantos de vocês sabiam que a Oracle pode nativamente,
00:15:15na mesma tabela, até no mesmo particionamento,
00:15:19armazenar JSON, grafos, vetores (meu amigo vetorial ali),
00:15:24meu amigo de JSON, dados espaciais?
00:15:27Você quer que sua memória seja imutável?
00:15:30Ter blockchain no mesmo banco de dados?
00:15:32Levantem a mão.
00:15:34É.
00:15:36Nós temos um problema de marketing.
00:15:39Portanto, qualquer tipo de dado pode ser armazenado no banco de dados 26AI.
00:15:44Qualquer carga de trabalho.
00:15:46Em qualquer lugar.
00:15:47AWS, GCP, Azure, OCI, localmente.
00:15:52Escolha e flexibilidade.
00:15:54Então, agora, quando pegamos isso e falamos sobre o agente,
00:15:57quero poder armazenar minha memória de longo prazo e procedural em relacional.
00:16:02Em JSON, quero armazenar minha memória de curto prazo e de longo prazo.
00:16:05Em Grafo, quero armazenar a procedural, porque a procedural é como descubro as relações,
00:16:09certo, os passos.
00:16:11Minha memória episódica e semântica, preciso usar vetores e também armazená-la como texto.
00:16:17Agora, se eu tiver quatro bancos de dados diferentes, como vocês viram, eles não conseguem conversar entre si.
00:16:25Isso vai ser um problema.
00:16:27E então, o que estou dizendo a vocês hoje é que o banco de dados Oracle AI é o melhor lugar para armazenar essa memória do agente
00:16:35que vai alimentar o seu harness.
00:16:38Lembre-se, seu harness é o seu corpo, e essa memória é o seu sistema nervoso central.
00:16:44Certo, voltando à Poly.
00:16:46Então, o problema que eu tinha, nós resolvemos com um corretor de memória chamado Poly.
00:16:51Nós usamos memória de agente.
00:16:54Nós saímos daquela continuidade automática.
00:16:57Então, com minha equipe, eles conseguiram compartilhar não apenas o código, mas a Poly também acompanhou o contexto.
00:17:07Portanto, se uma janela de contexto continha memória procedural, memória episódica, informações sobre a memória de longo prazo,
00:17:15isso era compartilhado com as outras pessoas da equipe.
00:17:19Você pode chamá-los de agentes, se preferir.
00:17:21Eles são apenas agentes humanos.
00:17:23Compartilhado entre forks.
00:17:26Os desenvolvedores da equipe mantiveram o controle enquanto a Poly conseguia criar o contexto,
00:17:35descobrir a qual fork e branch pertencia e a qual commit pertencia.
00:17:41Agora, este é um exemplo muito simplista, mas quando você leva isso para a empresa, é isso que acontece.
00:17:49A memória é aquilo que se torna inegociável no harness de um agente.
00:17:53Agora, estes são três artigos que li no avião.
00:17:59Este primeiro é da OpenAI, e fala sobre o seu agente de dados interno.
00:18:03E o que ele diz é que o seu agente de dados interno realmente precisa de memória.
00:18:11A memória era crucialmente importante para garantir que seu agente pudesse filtrar corretamente, em vez de tentar correspondência de strings.
00:18:19Harrison Chase disse: “Seu harness, sua memória, e se você não possui seu harness, você não possui sua memória”, o que é fundamental.
00:18:27E então, tenho certeza de que todos vocês estão se perguntando: “Bem, o Claude tem memória. Por que não posso usá-la?”
00:18:32Bem, é como se fosse memória de sistema de arquivos, e funciona com um, mas assim como no meu exemplo,
00:18:38quando você ultrapassa um em escala, e você vai ultrapassar um na empresa, isso cria um problema.
00:18:45Portanto, a Oracle tem um Oracle Agent Memory Package.
00:18:51PIP install Oracle Agent Memory, você obtém acesso a ele, e essa memória, este SDK que temos,
00:19:00é o que vai reter suas conversas ao vivo, suas memórias, seus fatos,
00:19:05e descobrir o que vale a pena manter. Então, se olharmos para a Poly, agora Kevin pode compartilhar seu contexto com a Poly,
00:19:14nosso corretor de memória. Usamos o SDK do Oracle Agent Memory. Ele é armazenado em um Oracle Autonomous Database.
00:19:22Podemos usar o LLM de nossa escolha ou podemos usar um modelo local por meio do contêiner Oracle Private AI Services.
00:19:28E então, a Linda, que está sentada bem aqui,
00:19:34pode interagir e trabalhar com o Kevin, sem problemas. Então, sim, a IA torna os indivíduos mais rápidos.
00:19:42A memória compartilhada em um banco de dados Oracle AI torna as equipes mais rápidas. Então, eu não quero que vocês façam concessões.
00:19:49Na era da IA, o que o 26AI faz é permitir que você escolha o que é melhor. Para memória de agentes,
00:19:58sistemas de arquivos armazenados em um sistema de arquivos de banco de dados ou no banco de dados. Se precisar fazer modelagem de dados,
00:20:04você tem JSON, tem relacional, nós temos opções.
00:20:09Certo, eu tenho algumas surpresas para vocês. O Oracle AI Developer Hub, é lá que vocês podem obter materiais de código,
00:20:16os aplicativos, o que eu falei hoje. LiveLabs.oracle.com. Se vocês fizeram alguma de
00:20:22nossas oficinas hoje, isso por acaso é algo que eu escrevi pessoalmente há cerca de seis anos e 40 milhões
00:20:28de usuários atrás, gastem o dinheiro da minha tenancy do OCI, testem qualquer tecnologia da Oracle por seis horas,
00:20:3812 horas, o tempo que precisarem. E então, vou dar um Mac mini para todos vocês. Não, estou brincando.
00:20:45Vou dar a vocês um OCI mini. Então, não sei se sabiam, mas existe o OCI sempre gratuito. É o mais
00:20:51generoso de todos os hyperscalers, onde você pode obter um banco de dados Oracle gratuito, computação gratuita. Você pode enviar
00:20:573.000 e-mails por mês, 200 GB de armazenamento. E se você clicar nisso, poderá ter acesso. Ou apenas
00:21:05pesquise no Google por Oracle Cloud, sempre gratuito. Conectem-se comigo. Se vocês construírem algo, vão me mandar
00:21:14uma mensagem para me avisar? Sim ou com certeza? Obrigado.
00:21:35Até a próxima.
커뮤니티 글
아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!
이 영상에 대해 글쓰기