Die US-Regierung hat soeben Mythos VERBOTEN
BBetter Stack
Computing/SoftwareBusiness NewsInternet Technology
Transcript
00:00:00Das ist absolut verrückt.
00:00:01Die US-Regierung hat Anthropic gerade angewiesen, Fable 5 und Mythos 5 für alle Kunden zu deaktivieren.
00:00:06Anthropic hat gerade getwittert:
00:00:07Die US-Regierung beruft sich auf nationale Sicherheitsbehörden
00:00:10und hat eine Exportkontrollrichtlinie erlassen, die jeglichen Zugang zu Fable 5 und Mythos 5 sperrt,
00:00:14für alle ausländischen Staatsbürger, egal ob innerhalb oder außerhalb der Vereinigten Staaten,
00:00:18einschließlich ausländischer Anthropic-Mitarbeiter.
00:00:21Der Nettoeffekt dieser Anordnung ist, dass wir Fable 5 und Mythos 5 abrupt deaktivieren müssen,
00:00:25um die Einhaltung für alle Kunden sicherzustellen.
00:00:27Der Zugang zu allen anderen Anthropic-Modellen ist nicht betroffen.
00:00:30Was zum Teufel ist da los?
00:00:37Ich dachte mir, ich probiere es kurz aus, und es scheint, als hätte ich noch Zugriff auf Fable
00:00:40und es funktioniert noch, es antwortet.
00:00:42Also nutzen Sie schnell Ihr Fable-Abonnement, Sie werden es gleich verlieren.
00:00:46Hier ist die vollständige offizielle Erklärung von Anthropic, die etwas genauer beleuchtet, was hier passiert ist.
00:00:50Es beginnt mit dem Tweet, den ich gerade vorgelesen habe.
00:00:52Wir können hier sehen, dass wir die Anweisung der Regierung heute um 17:21 Uhr erhalten haben,
00:00:55das war im Grunde vor etwa vier Stunden.
00:00:58Und es heißt, der Brief enthielt keine spezifischen Details zu den nationalen Sicherheitsbedenken.
00:01:02Unseres Wissens nach glaubt die Regierung, von einer Methode erfahren zu haben,
00:01:05Fable 5 zu umgehen oder zu “jailbreaken”.
00:01:07Wir haben eine Demonstration dieser spezifischen Technik überprüft, die dazu verwendet wurde,
00:01:11eine kleine Anzahl zuvor bekannter geringfügiger Schwachstellen zu identifizieren.
00:01:13Diese Schwachstellen erscheinen alle relativ simpel
00:01:15und wir haben festgestellt, dass andere öffentlich verfügbare Modelle in der Lage sind, sie ebenfalls zu entdecken,
00:01:20ohne dass ein Umweg erforderlich ist.
00:01:21Die Zusammenfassung ist, dass die US-Regierung einen Jailbreak gefunden hat, der es Fable 5 erlauben würde,
00:01:25Schwachstellen in vielen Softwareprogrammen zu finden, und Anthropic sagt im Grunde, das sei ausgemachter Blödsinn
00:01:30und alles, was es gefunden hat, seien öffentliche Schwachstellen, die auch andere Modelle finden können.
00:01:35Ich wäre ehrlich gesagt ziemlich überrascht, wenn es einen Jailbreak gäbe, der es Fable 5 ermöglichte,
00:01:38all seine Cybersicherheitsbeschränkungen zu umgehen, denn wie Anthropic hier weiter ausführt:
00:01:43Als sie Fable veröffentlichten, hatten sie eine Reihe von Schutzmaßnahmen,
00:01:45sie haben starke Sicherheitsvorkehrungen eingeführt, die die Wahrscheinlichkeit eines Missbrauchs von Fable stark reduzierten,
00:01:49und tatsächlich sind unsere Sicherheitsvorkehrungen so stark, dass sich viele Benutzer darüber beschwert haben, dass sie zu umfassend sind.
00:01:53Was ja, das ist so ziemlich alles, was ich von Leuten erlebt habe, im Grunde, wenn man
00:01:57irgendetwas in der Nähe von Cybersicherheit erwähnt, sagt Fable einfach nein.
00:02:00Sie führen hier weiter aus, dass Anthropic in den Wochen vor dem Start von Fable
00:02:03mit der US-Regierung, dem britischen AISI, mehreren privaten Drittorganisationen
00:02:08und internen Teams zusammengearbeitet hat, um Fables Sicherheitsvorkehrungen insgesamt tausende Stunden lang zu red-teamen,
00:02:13und diese Tests zeigten, dass Fables Schutzmaßnahmen wesentlich effektiver sind als die jedes
00:02:17zuvor eingesetzten Modells, und kein Tester konnte einen universellen Jailbreak finden.
00:02:21Also kann im Grunde niemand einen Weg finden, alle ihre Einschränkungen zu umgehen, aber es könnte ein
00:02:25paar Nischen-Jailbreaks hier oder da gegeben haben, die ein oder zwei der Einschränkungen umgehen konnten.
00:02:29Und das ergibt für mich Sinn, es ist immer ein Katz-und-Maus-Spiel, diese Jailbreaks zu finden und
00:02:32sie zu stoppen, und wir können hier unten sehen, dass Anthropic tatsächlich vermutet, dass perfekte
00:02:36Jailbreak-Resistenz derzeit für keinen Modellanbieter möglich ist. Jede im Einsatz befindliche Schutzmaßnahme der Branche
00:02:40ist anfällig für nicht-universelle Jailbreaks, die in bestimmten Situationen einige Cyberinformationen
00:02:44hervorlocken können, und es ist wahrscheinlich, dass in Zukunft universelle Jailbreaks gefunden werden,
00:02:49und das haben sie klar so kommuniziert, als sie Fable 5 veröffentlichten. Ich muss dem zustimmen,
00:02:54ich weiß nicht, wie man jemals perfekten Jailbreak-Schutz haben könnte, ich meine, ich folge Pliny auf Twitter,
00:02:58und für buchstäblich jedes Modell von jedem Anbieter scheint er innerhalb weniger Stunden nach der Veröffentlichung
00:03:03irgendeine Form von Jailbreak zu finden. Anthropic war sich dessen jedoch ziemlich bewusst, als sie Fable veröffentlichten, wie
00:03:07sie hier unten sagen. Das ist einer der Gründe, warum sie diese 30-tägige Aufbewahrung von Kundendaten bei
00:03:11Fable hatten, was viele Leute davon abhielt, es tatsächlich nutzen zu können, aber der ganze Grund war,
00:03:15dass sie jede Form von Jailbreak nachverfolgen und abschalten konnten. Und soweit ich das sehen konnte, schien es
00:03:19zu funktionieren, aber anscheinend hat die US-Regierung andere Ideen. Anthropic selbst sagt sogar, dass sie
00:03:23keine Offenlegung eines besorgniserregenden, nicht-universellen potenziellen Jailbreaks erhalten haben, der zu einem
00:03:28schädlichen Ergebnis geführt hat, und die potenziellen Jailbreaks, die sie gesehen haben, waren entweder völlig gutartige
00:03:32Antworten oder geringfügige Erkenntnisse, die keinen Mythos-spezifischen Mehrwert bieten. Aber hier bekommen wir die
00:03:37vagen Details zu sehen, was die Regierung gefunden hat. Anscheinend hat die Regierung ihnen nur
00:03:40mündliche Beweise für einen potenziellen engen, nicht-universellen Jailbreak gegeben, der im Wesentlichen darin besteht, das Modell zu bitten,
00:03:45eine bestimmte Codebasis zu lesen und Softwarefehler zu beheben. Unseres Wissens nach wurde ein
00:03:50potenzieller Jailbreak mit der Regierung geteilt, und sie haben den Bericht überprüft und bestätigt, dass
00:03:54das gezeigte Leistungsniveau weitgehend von anderen Modellen verfügbar ist, einschließlich OpenAIs GPT 5.5,
00:04:00und jeden Tag von den Verteidigern verwendet wird, die das System sicher halten. Wir werden in den nächsten 24 Stunden mehr Details teilen.
00:04:06Wenn man zwischen den Zeilen liest, scheint es, dass der Jailbreak vielleicht dazu diente, ein Repository zu klonen
00:04:10und zu fragen, ob man Fehler darin beheben könne, und einer dieser Fehler wäre eine Sicherheitslücke gewesen,
00:04:14und dann könnte man das auf irgendeine niederträchtige Weise nutzen, und vielleicht gab es einen Jailbreak, um Fable 5 dazu zu bringen,
00:04:19ein bisschen fortgeschrittenere Cybersicherheitsprüfungen an diesem Repository durchzuführen, aber offensichtlich sind die Details sehr vage, da sie
00:04:24nicht wollen, dass dies durchsickert. Anthropics Verteidigung hier läuft auch darauf hinaus: Schauen Sie sich OpenAI an, es tut
00:04:28dasselbe, also hoffe ich, dass ihr Verpfeifen von OpenAI nicht bedeutet, dass wir auch den Zugriff auf GPT 5.5 verlieren.
00:04:34Der letzte Teil dieser Erklärung ist nur, dass Anthropic sagt, sie kämen der rechtlichen Anweisung der Regierung nach
00:04:38und den Zugriff auf Fable 5 und Mythos 5 für alle Benutzer entfernen, jedoch sind sie nicht der Meinung, dass der Fund eines engen,
00:04:43potenziellen Jailbreaks ein Grund dafür sein sollte, ein kommerzielles Modell, das bei Hunderten von Millionen Menschen eingesetzt wird, zurückzurufen,
00:04:48und wenn dieser Standard branchenweit angewendet würde, glauben sie, würde dies im Wesentlichen alle neuen Modellbereitstellungen
00:04:53für alle Anbieter von Frontier-Modellen stoppen. Und ja, ich stimme zu, ich verstehe nicht wirklich, wie wir von hier aus weitermachen können,
00:04:59wenn wir an einem Punkt sind, an dem all diese Modelle so mächtig sind, dass die US-Regierung einfach sagt: Nein,
00:05:03normale Leute können keinen Zugriff darauf haben. Ich wette, die US-Regierung wäre absolut glücklich, Fable ganz für sich allein zu haben,
00:05:08aber wir alle wissen, wie gut Anthropics letzter Deal mit dem Verteidigungsministerium lief. Der andere Teil, der mich als Nicht-US-Bürger beunruhigt,
00:05:14ist der Teil, der sagt: Alle Zugriffe auf Fable 5 und Mythos 5 durch jeden ausländischen Staatsbürger aussetzen. Vielleicht werden sie das also lösen, indem sie nur US-Bürgern
00:05:22erlauben, Fable 5 und Mythos zu nutzen, aber ich hoffe wirklich, dass das nicht passiert, und es wird eine seltsame Welt sein, in der die US-Regierung
00:05:28Menschen einschränkt, die besten verfügbaren Modelle zu nutzen. Und ich schätze, das würde auch bedeuten, dass man
00:05:32seinen Ausweis bei Anthropic hochladen müsste, um zu beweisen, wo man geboren wurde, um diese Modelle nutzen zu können. Das sind also im Grunde alle Informationen,
00:05:38die ich im Moment habe. Diese Nachricht kam buchstäblich gerade erst herein, und ich meine, ich wusste, dass wir Fable 5 in 11 Tagen
00:05:43aus unseren Abonnements verlieren würden, aber ich hatte nicht erwartet, dass es so bald passiert, und das ist einfach eine seltsame Welt, in die wir hier eintreten,
00:05:49also lassen Sie mich in den Kommentaren unten wissen, was Sie davon halten, während Sie dort sind, abonnieren Sie,
00:05:52und wie immer, wir sehen uns im nächsten Video.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video