O governo dos EUA acaba de BANIR Mythos

PortuguêsالعربيةDeutschEnglishEspañolFrançaisहिन्दीBahasa Indonesia日本語한국어Русский中文
BBetter Stack
Computing/SoftwareBusiness NewsInternet Technology

Transcript

00:00:00Isso é absolutamente insano.
00:00:01O governo dos EUA acabou de ordenar que a Anthropic desative o Fable 5 e o Mythos 5 para todos os clientes.
00:00:06A Anthropic acabou de tuitar,
00:00:07O governo dos EUA, citando autoridades de segurança nacional,
00:00:10emitiu uma diretiva de controle de exportação para suspender todo acesso ao Fable 5 e Mythos 5
00:00:14por qualquer cidadão estrangeiro, dentro ou fora dos Estados Unidos,
00:00:18incluindo funcionários estrangeiros da Anthropic.
00:00:21O efeito líquido desta ordem é que devemos desativar abruptamente o Fable 5 e o Mythos 5
00:00:25para todos os clientes para garantir a conformidade.
00:00:27O acesso a todos os outros modelos da Anthropic não será afetado.
00:00:30Que diabos está acontecendo?
00:00:37Então, pensei em testar rapidamente e parece que ainda tenho o Fable
00:00:40e ele ainda está funcionando, está respondendo.
00:00:42Então, vá usar sua assinatura do Fable rapidamente, você está prestes a perdê-la.
00:00:46Aqui está a declaração oficial completa da Anthropic que explica um pouco do que aconteceu aqui.
00:00:50Começa com o tweet que acabei de ler.
00:00:52Podemos ver aqui que recebemos a diretiva do governo hoje às 17:21,
00:00:55isso foi essencialmente há cerca de quatro horas.
00:00:58E diz que a carta não forneceu detalhes específicos da sua preocupação de segurança nacional.
00:01:02Nosso entendimento é que o governo acredita ter tomado conhecimento de um método de ignorar
00:01:05ou fazer um jailbreak no Fable 5.
00:01:07Analisamos uma demonstração desta técnica específica sendo usada para identificar um pequeno número
00:01:11de vulnerabilidades menores já conhecidas.
00:01:13Essas vulnerabilidades parecem ser relativamente simples
00:01:15e descobrimos que outros modelos disponíveis publicamente são capazes de descobri-las também sem
00:01:20precisar de um bypass.
00:01:21O resumo disso é que o governo dos EUA encontrou um jailbreak que permitirá ao Fable 5
00:01:25encontrar vulnerabilidades em muitos softwares e a Anthropic basicamente diz que isso é uma grande bobagem
00:01:30e que tudo o que encontrou foram vulnerabilidades públicas e que outros modelos podem encontrá-las.
00:01:35Eu honestamente ficaria bem surpreso se houvesse um jailbreak por aí que permitisse ao Fable 5
00:01:38contornar todas as suas restrições de cibersegurança, porque, como a Anthropic continua dizendo aqui,
00:01:43quando lançaram o Fable, eles tinham várias salvaguardas,
00:01:45instituíram fortes salvaguardas que reduziram bastante a probabilidade de o Fable ser mal utilizado
00:01:49e, de fato, nossas salvaguardas são tão fortes que muitos usuários reclamaram que são excessivamente amplas.
00:01:53O que, sim, é praticamente tudo o que vi as pessoas experimentarem, basicamente se você mencionar
00:01:57qualquer coisa próxima à cibersegurança, o Fable simplesmente diria não.
00:02:00Eles continuam dizendo aqui que, aparentemente, nas semanas que antecederam o lançamento do Fable,
00:02:03a Anthropic trabalhou com o governo dos EUA, o UK AISI, várias organizações privadas de terceiros
00:02:08e equipes internas para testar exaustivamente as salvaguardas do Fable por milhares de horas no total
00:02:13e esses testes mostraram que as salvaguardas do Fable são substancialmente mais eficazes do que as de qualquer
00:02:17modelo implantado anteriormente e nenhum testador conseguiu encontrar um jailbreak universal.
00:02:21Então, basicamente, ninguém consegue encontrar uma maneira de ignorar todas as suas restrições, mas pode ter havido
00:02:25alguns jailbreaks de nicho aqui ou ali que poderiam contornar uma ou duas das restrições.
00:02:29E isso faz sentido para mim, é sempre um jogo de gato e rato encontrar esses jailbreaks e
00:02:32detê-los, e podemos ver abaixo que a Anthropic suspeita que a resistência perfeita a jailbreaks
00:02:36não é possível atualmente para nenhum provedor de modelos. Cada salvaguarda usada na
00:02:40indústria é vulnerável a jailbreaks não universais que podem extrair algumas informações cibernéticas
00:02:44em circunstâncias específicas e é provável que jailbreaks universais sejam eventualmente encontrados no
00:02:49futuro, e eles declararam isso claramente quando lançaram o Fable 5. Tenho que concordar com isso,
00:02:54não sei como você poderia ter uma proteção perfeita contra jailbreaks, quero dizer, eu sigo o Pliny no Twitter
00:02:58e, literalmente, para qualquer modelo de qualquer provedor, poucas horas após o seu lançamento, ele parece encontrar
00:03:03alguma forma de jailbreak. A Anthropic estava bem ciente disso quando lançou o Fable, como
00:03:07dizem abaixo. Esta é uma das razões pelas quais eles tiveram aquela retenção de 30 dias de dados do cliente com
00:03:11o Fable, o que impediu muitas pessoas de realmente poderem usá-lo, mas todo o motivo era que
00:03:15eles poderiam acompanhar quaisquer formas de jailbreak e interrompê-las. E, pelo que pude ver, parecia
00:03:19estar funcionando, mas aparentemente o governo dos EUA tem outras ideias. A própria Anthropic até diz que
00:03:23eles não receberam a divulgação de um potencial jailbreak não universal preocupante que levou a um
00:03:28resultado prejudicial, e os potenciais jailbreaks que eles viram foram respostas inteiramente benignas
00:03:32ou descobertas menores que não proporcionam nenhum ganho específico para o Mythos. Mas aqui é onde vemos os
00:03:37detalhes vagos sobre o que o governo encontrou. Aparentemente, o governo só lhes deu
00:03:40evidências verbais de um potencial jailbreak estreito e não universal que consiste essencialmente em pedir
00:03:45ao modelo para ler uma base de código específica e corrigir quaisquer falhas de software. Nosso entendimento é que um
00:03:50potencial jailbreak foi compartilhado com o governo e eles revisaram o relatório e validaram que
00:03:54o nível de capacidade exibido está amplamente disponível em outros modelos, incluindo o GPT 5.5 da OpenAI,
00:04:00e é usado todos os dias pelos defensores que mantêm o sistema seguro. Compartilharemos mais detalhes nas próximas 24 horas.
00:04:06Tentando ler nas entrelinhas, parece que o jailbreak pode ter sido algo como clonar um repositório
00:04:10e dizer “você pode corrigir os bugs nisto?” e um desses bugs teria sido uma vulnerabilidade de segurança
00:04:14e então você poderia usar isso de alguma forma nefasta e talvez houvesse um jailbreak para fazer o Fable 5 fazer
00:04:19verificações de cibersegurança um pouco mais avançadas nesse repositório, mas obviamente os detalhes são muito vagos, pois eles
00:04:24não querem que isso vaze. A defesa da Anthropic aqui também se resume a “olhe para a OpenAI, ela faz
00:04:28a mesma coisa”, então espero que eles terem dedurado a OpenAI não signifique que também perderemos o acesso ao GPT 5.5.
00:04:34A parte final desta declaração é apenas a Anthropic dizendo que está cumprindo a diretiva legal do governo
00:04:38e está removendo o acesso ao Fable 5 e ao Mythos 5 para todos os usuários, no entanto, eles discordam de que a descoberta de um estreito
00:04:43potencial jailbreak deva ser motivo para recolher um modelo comercial implantado para centenas de milhões de pessoas,
00:04:48e se esse padrão fosse aplicado em toda a indústria, eles acreditam que isso essencialmente interromperia todas as novas
00:04:53implantações de modelos para todos os provedores de modelos de fronteira. E sim, concordo, não entendo muito bem como podemos seguir em frente a partir daqui
00:04:59se chegamos a um ponto em que todos esses modelos são tão poderosos que o governo dos EUA simplesmente diz não
00:05:03pessoas normais não podem ter acesso a eles. Aposto que o governo dos EUA ficaria perfeitamente feliz em ter o Fable só para eles
00:05:08mas todos sabemos como foi o último acordo da Anthropic com o Departamento de Defesa. A outra parte que me preocupa como não cidadão dos EUA
00:05:14é a parte que diz “suspender todo o acesso ao Fable 5 e Mythos 5 por qualquer cidadão estrangeiro”. Então, talvez eles resolvam isso permitindo apenas que cidadãos dos EUA
00:05:22usem o Fable 5 e o Mythos, mas realmente espero que isso não aconteça e será um mundo estranho onde o governo dos EUA
00:05:28está restringindo as pessoas de usarem os melhores modelos que existem. E acho que isso também significaria que você teria que enviar
00:05:32seu documento de identidade para a Anthropic para provar onde você nasceu para poder usar esses modelos. Então, basicamente, essa é toda a informação
00:05:38que tenho no momento. Esta notícia acabou de sair e, quero dizer, eu sabia que perderíamos o Fable 5 em 11 dias
00:05:43de nossas assinaturas, mas não esperava que acontecesse tão cedo e este é apenas um mundo estranho em que estamos entrando
00:05:49então deixe-me saber o que você pensa sobre isso nos comentários abaixo, enquanto você está lá, inscreva-se
00:05:52e, como sempre, vejo você no próximo.

Key Takeaway

O governo dos Estados Unidos suspendeu o acesso aos modelos Fable 5 e Mythos 5 da Anthropic devido a preocupações de segurança nacional relacionadas a um potencial jailbreak que permitiria a exploração de vulnerabilidades de software.

Highlights

  • O governo dos EUA emitiu uma diretiva de controle de exportação suspendendo o acesso aos modelos Fable 5 e Mythos 5 da Anthropic.

  • A ordem proíbe o uso dos modelos por qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos.

  • A justificativa oficial baseia-se em um método de jailbreak que permitiria ao Fable 5 identificar vulnerabilidades em softwares.

  • A Anthropic afirma que as vulnerabilidades identificadas pelo governo são menores, conhecidas e detectáveis por outros modelos, como o GPT 5.5 da OpenAI.

  • Testes extensivos de milhares de horas antes do lançamento indicaram que o Fable 5 não possui um jailbreak universal.

Timeline

Suspensão imediata dos modelos Fable 5 e Mythos 5

  • O governo dos EUA ordenou à Anthropic a desativação do Fable 5 e Mythos 5 para todos os clientes.
  • A diretiva de controle de exportação restringe o acesso a qualquer cidadão estrangeiro.
  • A Anthropic confirmou que outros modelos da empresa permanecem acessíveis.

O governo citou autoridades de segurança nacional para justificar a suspensão imediata do acesso. Esta diretiva impacta não apenas usuários externos, mas também funcionários estrangeiros da própria Anthropic. A ordem de interrupção foi emitida às 17:21, forçando a desativação abrupta para garantir conformidade legal.

Motivações de segurança e resposta da Anthropic

  • O governo alega ter identificado um método de jailbreak capaz de expor vulnerabilidades de software através do Fable 5.
  • A Anthropic contesta a severidade da falha, afirmando que as vulnerabilidades encontradas são públicas e detectáveis por outros modelos.
  • O Fable 5 foi submetido a milhares de horas de testes pré-lançamento com o governo e organizações externas sem a descoberta de um jailbreak universal.

A Anthropic defende que suas salvaguardas são robustas e que o modelo foi extensivamente testado. A empresa sustenta que jailbreaks não universais são uma realidade da indústria atual e que nenhum provedor possui proteção perfeita. A retenção de dados do cliente por 30 dias foi uma medida implementada especificamente para monitorar e interromper tentativas de jailbreak.

Consequências e implicações para a indústria

  • O governo forneceu evidências verbais de um jailbreak que envolve a leitura de bases de código para corrigir falhas.
  • A Anthropic aponta que a capacidade de analisar códigos para encontrar falhas é comum em outros modelos, como o GPT 5.5 da OpenAI.
  • A aplicação desse padrão de segurança pelo governo poderia paralisar novas implantações de modelos de fronteira em todo o setor.

A Anthropic discorda da decisão de recolher um modelo comercial devido a um jailbreak estreito e não universal. A preocupação central é que, se esse critério for mantido, todos os provedores de inteligência artificial de ponta enfrentarão interrupções semelhantes. O acesso futuro pode exigir verificação de cidadania para distinguir usuários elegíveis sob a nova diretiva de controle de exportação.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video