O Seu Agente Acabou de Autorizar O Quê?! — Jay Mok & Ben Coumes, Paypal
Original · Your Agent Just Authorized What?! — Jay Mok & Ben Coumes, Paypal
Key Takeaway
A segurança na autorização de agentes autônomos exige um modelo mental baseado em matriz de riscos que combina escopos OAuth para ambientes fechados e intenções verificáveis FIDO com mandatos AP2 para transações abertas de alto risco.
Highlights
A autorização de agentes de IA exige responder se o ser humano autorizou, se é permitido no escopo atual e se há como provar isso posteriormente.
O ecossistema de baixo risco utiliza permissões granulares e logs do sistema, como ocorre na integração do Claude com conectores de ferramentas.
O cenário de médio risco envolve movimentação financeira em ambientes fechados ou conhecidos, utilizando cofres de credenciais e escopos OAuth.
O ecossistema de alto risco para pagamentos autônomos depende de intenções verificáveis do FIDO e mandatos AP2 em JWT de divulgação seletiva.
O token de aprovação do PayPal introduz um novo elemento primitivo que gera um payload JSON com valor, validade e lojista para o Gemini.
O modelo mental de autorização aplica-se a ações irreversíveis como ordens médicas, assinaturas eletrônicas e negociação de valores mobiliários.
Timeline
Perguntas fundamentais sobre autorização de agentes
O controle de agentes de IA evita transações financeiras indesejadas realizadas por softwares autônomos. A validação inicial verifica se o ser humano autorizou a ação por meio de tecnologias como passkeys, se os limites de tempo e valor estão corretos, e se a transação possui capacidade de prova em casos de disputas. A classificação divide os cenários entre ecossistemas abertos e fechados, determinando o nível de confiança necessário entre as partes envolvidas.
- A segurança de agentes baseia-se em três indagações centrais sobre consentimento humano, escopo e auditabilidade.
- O contexto de risco e o grau de abertura do ecossistema definem a resposta para a autorização.
- A analogia do crachá corporativo ilustra a diferença entre operar dentro de um limite confiável e interagir em ambientes abertos.
Cenários de baixo e médio risco na prática
Ferramentas como o Claude utilizam conectores com plataformas de desenvolvimento onde o consentimento ocorre na configuração inicial. Como os erros são facilmente reversíveis, a evidência baseia-se em registros internos do sistema. Em contrapartida, cenários que envolvem o uso de cartões corporativos por agentes de viagens utilizam a infraestrutura do PayPal e Braintree para estabelecer um ambiente restrito e confiável por meio de OAuth.
- O Cloud Code opera em um ecossistema fechado com riscos baixos, dispensando criptografia complexa em favor de logs e reversibilidade.
- O cenário de médio risco envolve transações comerciais entre partes conhecidas utilizando infraestrutura de cofre e escopos OAuth.
- O cofre de credenciais armazena dados de pagamento de forma centralizada para agentes compradores e vendedores.
Ecossistemas de alto risco e pagamentos autônomos
A ausência de relação prévia entre comprador e vendedor em transações autônomas exige o uso de JWTs de divulgação seletiva em camadas, onde o provedor de identidade, o usuário e o agente assinam digitalmente as instruções. O PayPal implementa essa lógica com tokens de aprovação integrados a plataformas como o Gemini. Esse padrão garante verificabilidade mútua sem exigir laços contratuais diretos entre todos os participantes do ecossistema.
- Transações autônomas de alto risco entre partes desconhecidas exigem intenções verificáveis do FIDO e mandatos AP2.
- O token de aprovação do PayPal permite que usuários iniciem pedidos com agentes antes da seleção exata do lojista.
- O modelo mental aplica-se a qualquer ação de alto risco e difícil reversão, incluindo ordens médicas e transações de ativos.
Description
A PayPal order has always been synchronous. You find the item, you open the app, you approve it, it is done. The approval token demonstrated here inverts that: the user approves before the agent has found an item or picked a merchant, and PayPal returns a JSON payload carrying the amount, the expiry, and the merchant the agent is permitted to transact with. It was days from shipping when this was recorded. That inversion is the concrete end of a broader argument about agent authorization, built on three questions any such system has to answer. Did the human authorize this? Is it allowed right now, in this scope? And can we prove it later? The answers, the talk argues, depend entirely on how high the stakes are and on whether the two parties have ever met. The rest maps those questions onto a ladder. At the bottom is a coding agent, where consent happens once when tools are connected, permission is granted per tool as allow, ask or deny, and ordinary logs are proof enough because the actions can be reverted. In the middle is money moving between parties who already know each other through a shared vault and OAuth scopes, where a mandate carries the amount and the scope and existing transaction logs settle disputes. At the top is the case nobody has running in production yet: an agent transacting autonomously with a counterparty it has never met. The proposal there is a layered selective disclosure JWT, so a merchant can verify the checkout and a processor can verify the payment mandate without either knowing the other. Timestamps: 0:00 - Terminator, and the agent that empties your wallet 1:26 - Three questions any agent authorization has to answer 2:49 - Stakes, counterparties, and the badge analogy 4:12 - Low stakes: a coding agent with allow, ask and deny 6:15 - Medium stakes: a shared vault and OAuth scopes 9:45 - High stakes: counterparties who have never met 10:29 - A layered selective disclosure JWT 12:30 - The approval token, and inverting the order flow 14:31 - Why the ladder applies beyond payments
