00:00:00>> A maioria das pessoas que usa software todos os dias não pensa em bugs.
00:00:04Elas não pensam no que pode acontecer se o software do qual dependem de repente ficar menos seguro.
00:00:12Isso é algo com que os desenvolvedores de software têm que lidar todos os dias.
00:00:16[MÚSICA]
00:00:19>> Então, o software sempre teve falhas e vulnerabilidades, isso não é novidade.
00:00:23>> Para uma pessoa comum, os bugs não são, em geral, algo que elas percebam no dia a dia,
00:00:30porque, se percebem, eles são corrigidos.
00:00:32>> Mas, de vez em quando, surgem vulnerabilidades que têm impactos realmente graves.
00:00:36>> Como um único bug que se infiltra em um software compartilhado que muitos, muitos produtos ou sites usam.
00:00:45Assim, um único problema acaba sendo amplificado pelo mundo todo.
00:00:49>> Historicamente, encontrar e corrigir vulnerabilidades tem sido um processo lento, demorado e caro.
00:00:55>> Se os LLMs agora são capazes de escrever código ao nível de alguns dos melhores desenvolvedores do mundo,
00:01:04eles também podem ser usados para encontrar bugs e explorar esse software com a mesma eficácia.
00:01:10>> Esses modelos possuem capacidades que estão elevando o nível do ponto de vista da cibersegurança,
00:01:16com sua habilidade de ajudar defensores, bem como potencialmente ajudar adversários.
00:01:23>> Recentemente, desenvolvemos um novo modelo, o Claude Mythos Preview.
00:01:27Desde o início, ficou claro para nós que este modelo seria significativamente melhor em capacidades de cibersegurança.
00:01:33>> Há um tipo de aceleração exponencial, mas, ao longo dessa exponencial, existem pontos de significância.
00:01:40O Claude Mythos Preview é um salto particularmente grande nesse ponto.
00:01:45>> Nós não o treinamos especificamente para ser bom em cibersegurança.
00:01:48Nós o treinamos para ser bom em código, mas, como efeito colateral disso, ele também é bom em cibersegurança.
00:01:54>> O modelo com o qual estamos experimentando é, em geral, tão bom quanto um humano profissional na identificação de bugs.
00:02:03É bom para nós porque podemos encontrar mais vulnerabilidades mais cedo e corrigi-las.
00:02:07>> Ele tem a capacidade de encadear vulnerabilidades.
00:02:10O que isso significa é que você encontra duas vulnerabilidades, e nenhuma delas te dá muito retorno de forma independente,
00:02:16mas este modelo é capaz de criar exploits a partir de três, quatro, às vezes cinco vulnerabilidades
00:02:21que, em sequência, resultam em um desfecho final muito sofisticado.
00:02:24>> E achamos que este modelo pode fazer isso muito bem porque notamos que ele é muito autônomo.
00:02:30Ele é geralmente melhor em realizar tarefas de longo alcance que são parecidas com as tarefas
00:02:37que um pesquisador de segurança humano faria ao longo de um dia inteiro.
00:02:42Obviamente, capacidades em um modelo como este poderiam causar danos se em mãos erradas.
00:02:46E, por isso, não lançaremos este modelo abertamente.
00:02:49>> Modelos mais poderosos virão de nós e de outros.
00:02:53E, por isso, precisamos de um plano para responder a isso.
00:02:56>> É por isso que estamos lançando o que chamamos de Projeto Glasswing, onde fazemos parcerias com várias organizações
00:03:02que sustentam alguns dos códigos mais críticos do mundo para colocar o modelo nas mãos delas,
00:03:06para permitir que vejam como podem usar modelos assim para reduzir riscos e proteger a todos.
00:03:12>> E ao dar a esses desenvolvedores de software ferramentas avançadas antes de qualquer outra pessoa, isso nos dá uma vantagem coletiva.
00:03:22>> Isso nos permite encontrar coisas que não conseguíamos encontrar antes e nos ajuda a corrigi-las muito mais rápido.
00:03:30>> Trabalhando com nossos parceiros, temos encontrado vulnerabilidades em basicamente todas as grandes plataformas.
00:03:36>> Eu encontrei mais bugs nas últimas semanas do que em todo o resto da minha vida somada.
00:03:41Usamos o modelo para escanear uma grande quantidade de código de código aberto.
00:03:44E a primeira coisa que buscamos foram os sistemas operacionais,
00:03:48porque este é o código que serve de base para toda a infraestrutura da Internet.
00:03:52No OpenBSD, encontramos um bug que estava presente há 27 anos,
00:03:58onde posso enviar alguns dados para qualquer servidor OpenBSD e travá-lo.
00:04:05No Linux, encontramos várias vulnerabilidades onde, como um usuário sem permissões,
00:04:11posso me elevar a administrador apenas executando um binário na minha máquina.
00:04:16Para cada um desses bugs, avisamos os mantenedores que realmente gerenciam o software,
00:04:20e eles os corrigiram e implantaram as atualizações para que ninguém que use o software esteja mais vulnerável.
00:04:27>> Para um desenvolvedor que mantém softwares incansavelmente,
00:04:30um modelo que pode ajudá-lo a descobrir vulnerabilidades em seu próprio código e corrigi-las antes que sejam exploradas,
00:04:38é uma ferramenta inestimável.
00:04:40>> Temos conversado com autoridades do governo dos EUA,
00:04:43e oferecemos trabalhar e colaborar com eles para avaliar e ajudar a defender contra os riscos desses modelos.
00:04:50Tudo o que fazemos em nossas vidas agora depende de software.
00:04:55>> O software meio que "engoliu" o mundo.
00:04:56Cada aspecto analógico de nossa vida é de alguma forma representado no domínio digital.
00:05:01>> E, assim, todo o nosso cotidiano funciona com base na ideia de que podemos confiar nos sistemas que o sustentam.
00:05:08>> Cibersegurança é a segurança da nossa sociedade.
00:05:11>> É essencial que nos unamos e trabalhemos juntos em toda a indústria para ajudar a construir melhores capacidades defensivas.
00:05:19>> Nenhuma organização sozinha vê o quadro completo e consegue lidar com isso por conta própria.
00:05:22>> Isso não será feito como parte de um programa de poucas semanas.
00:05:26Este será um trabalho de certamente meses, talvez anos.
00:05:29Mas o que espero é que, ao final disso, possamos estar em uma posição onde o software do mundo, os dados dos clientes,
00:05:38as transações financeiras e a infraestrutura crítica estejam mais seguros do que antes.