Transcript
00:00:00C'est complètement dingue.
00:00:01Le gouvernement américain vient d'ordonner à Anthropic de désactiver Fable 5 et Mythos 5 pour tous les clients.
00:00:06Anthropic vient de tweeter,
00:00:07Le gouvernement américain, invoquant des autorités de sécurité nationale,
00:00:10a émis une directive de contrôle des exportations pour suspendre tout accès à Fable 5 et Mythos 5
00:00:14par tout ressortissant étranger, qu'il soit à l'intérieur ou à l'extérieur des États-Unis,
00:00:18y compris les employés étrangers d'Anthropic.
00:00:21L'effet net de cette ordonnance est que nous devons brusquement désactiver Fable 5 et Mythos 5
00:00:25pour tous les clients afin de garantir la conformité.
00:00:27L'accès à tous les autres modèles Anthropic ne sera pas affecté.
00:00:30Mais qu'est-ce qui se passe ?
00:00:37Donc j'ai pensé essayer rapidement et il semble que j'ai toujours Fable
00:00:40et ça fonctionne toujours, il répond.
00:00:42Alors allez utiliser votre abonnement Fable très rapidement, vous êtes sur le point de le perdre.
00:00:46Voici la déclaration officielle complète d'Anthropic qui détaille un peu ce qui s'est passé ici.
00:00:50Elle commence par le tweet que je viens de lire.
00:00:52On peut voir ici que nous avons reçu la directive du gouvernement aujourd'hui à 17h21,
00:00:55c'est essentiellement il y a environ quatre heures.
00:00:58Et il est dit que la lettre ne fournissait pas de détails spécifiques sur ses préoccupations de sécurité nationale.
00:01:02Notre compréhension est que le gouvernement pense avoir pris connaissance d'une méthode pour contourner
00:01:05ou jailbreaker Fable 5.
00:01:07Nous avons examiné une démonstration de cette technique spécifique utilisée pour identifier un petit nombre
00:01:11de vulnérabilités mineures précédemment connues.
00:01:13Ces vulnérabilités semblent toutes relativement simples
00:01:15et nous avons constaté que d'autres modèles accessibles au public sont capables de les découvrir également sans
00:01:20nécessiter de contournement.
00:01:21Le TL;DR (résumé) de tout ça, c'est que le gouvernement américain a trouvé un jailbreak qui va permettre à Fable 5
00:01:25de trouver des vulnérabilités dans beaucoup de logiciels et Anthropic dit essentiellement que c'est n'importe quoi
00:01:30et que tout ce qu'il a trouvé, ce sont des vulnérabilités publiques que d'autres modèles peuvent trouver.
00:01:35Je serais honnêtement assez surpris s'il existait un jailbreak permettant à Fable 5 de
00:01:38contourner toutes ses restrictions de cybersécurité car comme Anthropic le poursuit ici,
00:01:43lorsqu'ils ont publié Fable, ils avaient tout un tas de garde-fous,
00:01:45ils ont mis en place des garde-fous solides qui ont considérablement réduit la probabilité que Fable soit utilisé à mauvais escient
00:01:49et en fait nos garde-fous sont si puissants que de nombreux utilisateurs se sont plaints qu'ils étaient trop larges.
00:01:53Ce qui, ouais, c'est à peu près tout ce que j'ai vu les gens vivre, en gros si vous mentionnez
00:01:57quoi que ce soit qui ressemble à de la cybersécurité, Fable disait juste non.
00:02:00Ils continuent en disant qu'apparemment, dans les semaines précédant le lancement de Fable,
00:02:03Anthropic a travaillé avec le gouvernement américain, l'AISI britannique, plusieurs organisations tierces privées
00:02:08et des équipes internes pour tester (red teaming) les garde-fous de Fable pendant des milliers d'heures au total
00:02:13et ces tests ont montré que les garde-fous de Fable sont substantiellement plus efficaces que ceux de n'importe quel
00:02:17modèle déployé précédemment et aucun testeur n'a pu trouver de jailbreak universel.
00:02:21Donc en gros, personne ne peut trouver un moyen de contourner toutes leurs restrictions, mais il y a peut-être eu quelques
00:02:25jailbreaks de niche ici ou là qui pourraient contourner une ou deux des restrictions.
00:02:29Et ça a du sens pour moi, c'est toujours un jeu du chat et de la souris pour trouver ces jailbreaks et
00:02:32les arrêter et on peut voir ici qu'Anthropic soupçonne en fait qu'une résistance parfaite
00:02:36au jailbreak n'est actuellement pas possible pour aucun fournisseur de modèles. Chaque garde-fou utilisé dans l'industrie
00:02:40est vulnérable à des jailbreaks non universels qui peuvent obtenir certaines informations cyber
00:02:44dans des circonstances spécifiques et il est probable que des jailbreaks universels seront éventuellement trouvés dans
00:02:49le futur et ils l'ont déclaré clairement quand ils ont publié Fable 5. Je dois être d'accord avec ça,
00:02:54je ne sais pas comment on pourrait avoir une protection parfaite contre le jailbreak, je veux dire je suis Pliny sur Twitter
00:02:58et pour littéralement n'importe quel modèle de n'importe quel fournisseur, quelques heures après sa sortie, il semble trouver
00:03:03une forme de jailbreak. Anthropic était assez conscient de cela quand ils ont publié Fable comme ils
00:03:07le disent ici. C'est l'une des raisons pour lesquelles ils avaient cette rétention de 30 jours des données client avec
00:03:11Fable qui a empêché beaucoup de gens de pouvoir réellement l'utiliser, mais la raison entière était qu'
00:03:15ils pouvaient garder une trace de toute forme de jailbreak et les supprimer. Et pour autant que je puisse voir, ça semblait
00:03:19fonctionner mais apparemment le gouvernement américain a d'autres idées. Anthropic eux-mêmes disent même qu'ils
00:03:23n'ont pas reçu de divulgation d'un potentiel jailbreak non universel préoccupant qui a conduit à un
00:03:28résultat nuisible et les jailbreaks potentiels qu'ils ont vus ont soit été des réponses totalement bénignes,
00:03:32soit des découvertes mineures qui ne fournissent aucun avantage spécifique à Mythos. Mais voici où nous commençons à voir les
00:03:37détails vagues sur ce que le gouvernement a trouvé. Apparemment, le gouvernement ne leur a donné que
00:03:40des preuves verbales d'un potentiel jailbreak étroit et non universel qui consiste essentiellement à demander
00:03:45au modèle de lire une base de code spécifique et de corriger les failles logicielles. Notre compréhension est qu'un
00:03:50potentiel jailbreak a été partagé avec le gouvernement et ils ont examiné le rapport et validé que
00:03:54le niveau de capacité affiché est largement disponible auprès d'autres modèles, y compris le GPT 5.5 d'OpenAI
00:04:00et est utilisé chaque jour par les défenseurs qui assurent la sécurité du système. Nous partagerons plus de détails dans les prochaines 24 heures.
00:04:06En essayant de lire entre les lignes là, il semble que le jailbreak aurait pu être de cloner un repo
00:04:10et de dire “peux-tu corriger les bugs là-dedans” et l'un de ces bugs aurait été une vulnérabilité de sécurité
00:04:14et ensuite vous pourriez l'utiliser d'une manière néfaste et peut-être y avait-il un jailbreak pour faire faire à Fable 5
00:04:19des contrôles de cybersécurité un peu plus avancés sur ce repo, mais évidemment les détails sont très vagues car ils
00:04:24ne veulent pas que ça soit divulgué. La défense d'Anthropic ici revient aussi à dire “regardez OpenAI, ils font
00:04:28la même chose”, alors j'espère vraiment que le fait qu'ils balancent sur OpenAI ne signifie pas qu'on perdra aussi l'accès à GPT 5.5.
00:04:34La dernière partie de cette déclaration est juste Anthropic disant qu'ils se conforment à la directive légale du gouvernement
00:04:38et retirent l'accès à Fable 5 et Mythos 5 pour tous les utilisateurs, cependant ils ne sont pas d'accord que la découverte d'un étroit
00:04:43potentiel jailbreak devrait être une cause de rappel d'un modèle commercial déployé auprès de centaines de millions de personnes
00:04:48et si cette norme était appliquée dans toute l'industrie, ils pensent que cela arrêterait essentiellement tous les nouveaux déploiements
00:04:53de modèles pour tous les fournisseurs de modèles de pointe. Et oui, je suis d'accord, je ne comprends pas vraiment comment on peut avancer à partir de maintenant
00:04:59si nous en sommes à un point où tous ces modèles sont si puissants que le gouvernement américain dit juste non
00:05:03aux gens normaux, qu'ils ne peuvent pas avoir accès à ceux-ci. Je parie que le gouvernement américain serait parfaitement heureux d'avoir Fable rien que pour lui
00:05:08mais nous savons tous à quel point le dernier accord d'Anthropic avec le département de la Défense s'est passé. L'autre partie qui me concerne en tant que non-citoyen américain
00:05:14est la partie qui dit “suspendre tout accès à Fable 5 et Mythos 5 par tout ressortissant étranger”. Donc peut-être qu'ils résoudront cela en autorisant seulement les citoyens américains
00:05:22à utiliser Fable 5 et Mythos, mais j'espère vraiment que cela n'arrivera pas et ce sera un monde bizarre où le gouvernement américain
00:05:28restreint les gens d'utiliser les meilleurs modèles disponibles. Et je suppose que cela signifierait aussi que vous devriez télécharger
00:05:32votre carte d'identité à Anthropic pour prouver où vous êtes né pour pouvoir utiliser ces modèles. Donc c'est essentiellement toute l'information
00:05:38que j'ai pour le moment. Cette nouvelle vient littéralement de tomber et je veux dire, je savais qu'on allait perdre Fable 5 dans 11 jours
00:05:43de nos abonnements, mais je ne m'attendais pas à ce que cela arrive si tôt et c'est juste un monde bizarre dans lequel nous entrons
00:05:49alors faites-moi savoir ce que vous en pensez dans les commentaires ci-dessous, pendant que vous y êtes, abonnez-vous
00:05:52et comme toujours, à la prochaine.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video