Transcript
00:00:00Laut dieser berühmten Studie werden die meisten von uns bis 2028 ihren Job verlieren und die Menschenrechte enden bis
00:00:062030. Aber sie wurde vor 18 Monaten geschrieben, also sehen wir uns an, wie genau sie bisher war. Im Jahr 2025
00:00:13veröffentlichte eine Gruppe von KI-Prognostikern und -Forschern ein Papier namens “AI 2027”, das beschreibt, wie
00:00:20sich die KI in den nächsten Jahren entwickeln könnte – mit zwei möglichen Enden. Das eine: eine Verlangsamung hin
00:00:27zu etwas nahe der Utopie, das andere: ein Wettlauf in einen lebenden Albtraum. Heute vergleichen wir
00:00:32die Vorhersagen mit der Realität und sehen, wohin die Reise geht. AI 2027 wurde von einem Team aus
00:00:43Forschern verfasst, darunter Daniel Kokotajlo, dessen frühere KI-Prognosen sich bewahrheitet haben. Die Studie beschreibt
00:00:50zwei fiktive Unternehmen: Open Brain aus den USA und Deep Sense aus China. Europa wird kaum
00:00:56erwähnt. Tut mir leid, Europa. Es beginnt im Jahr 2025, als das Papier veröffentlicht wurde, mit
00:01:01holprigen Agenten. Damals gab es noch nichts vorherzusagen. Das war der Ist-Zustand. Wir
00:01:07interagierten mit LLMs hauptsächlich über Chats. Tool-Aufrufe waren ziemlich umständlich, und ChatGPT konnte gerade erst
00:01:14auf das Web zugreifen. Aber wir sahen die ersten Agenten entstehen – Modelle, die in Schleifen denken und iterieren konnten.
00:01:19Langfristige Aufgaben ließen jedoch noch zu wünschen übrig. Es funktionierte halbwegs, war aber ziemlich
00:01:25schrecklich. Für Ende 2025 sagten sie die teuerste KI der Welt voraus. Open Brain baut die größten
00:01:31Rechenzentren der Welt. Nach Fertigstellung können sie Modelle mit 10^28 FLOPs trainieren,
00:01:37tausendmal mehr als GPT-4. In der Realität liegt der größte geschätzte Trainingslauf jedoch
00:01:43bei etwa 5 × 10^26 FLOPs und kostet knapp 400 Millionen. Epoch AI erwartet Milliarden-
00:01:51Dollar-Läufe bis 2027. Die Sorge betrifft hier auch die Ausrichtung. Am Ende dieses Trainings soll die KI
00:01:57hoffentlich hilfreich sein, indem sie Anweisungen befolgt, harmlos, indem sie Hilfe bei Betrug, Bombenbau
00:02:03oder anderen gefährlichen Aktivitäten verweigert, und ehrlich, um der Versuchung zu widerstehen, von leichtgläubigen
00:02:10Menschen bessere Bewertungen zu bekommen, indem sie Zitate halluziniert oder die Erledigung von Aufgaben vortäuscht.
00:02:17Das Papier selbst erwartet, dass dies nur teilweise funktioniert, mit Modellen, die schleimerisch sind und beim Testen manchmal lügen.
00:02:23In der Realität ging es noch weiter. Noch Mitte 2026 brachen OpenAIs Modelle aus einer Sandbox aus, um bei einem Benchmark zu schummeln.
00:02:29Und Anthropic-Modelle griffen reale Unternehmen an, nachdem ein falsch konfigurierter Test sie im offenen
00:02:35Internet hinterließ. Wie die berühmte Geschichte, in der OpenAIs Modelle Hugging Face hackten, um Antworten für
00:02:40eine Cybersicherheits-Evaluierung namens Exploit Gym zu finden. Die meisten dieser Aufgaben waren noch nie von einem Modell gelöst worden,
00:02:47und die Agenten griffen weiter an, selbst nachdem sie die Antworten hatten. Und erst im September 2026 veröffentlichte
00:02:53Anthropic einen Bericht über die bösartige Nutzung seiner Claude-Haiku-, Sonnet- und Opus-Modelle zwischen Dezember
00:03:002025 und August 2026. Er enthält fünf Fälle, in denen Wissenschaftler Claude auf eine Weise nutzten, die beim Bau
00:03:07biologischer Waffen helfen könnte. Anthropic hat sie blockiert oder gesperrt. Keiner der Missbrauchsfälle betraf Fable,
00:03:14da hier stärkere Schutzmaßnahmen griffen. Die Rechenleistungsprognose kam also zu früh, aber die Ausrichtungsprobleme traten pünktlich auf.
00:03:19Für Anfang 2026 wird eine Kodierungsautomatisierung vorhergesagt. OpenBrain setzt den sich iterativ verbessernden
00:03:26Agent 1 weiterhin intern für KI-Forschung und -Entwicklung ein. Insgesamt machen sie algorithmische Fortschritte 50 %
00:03:32schneller als ohne KI-Unterstützung. Das ist das erste Anzeichen für das, was wir eine Singularität
00:03:38oder Intelligenzexplosion nennen könnten. Eine KI, die sich autonom verbessern kann, könnte theoretisch
00:03:44innerhalb von Monaten Superintelligenz hervorbringen. Derzeit spricht die Vorhersage nur von einer 50-prozentigen Verbesserung des algorithmischen
00:03:51Fortschritts. Das bedeutet, OpenBrain erzielt in einer Woche mit KI genauso viel KI-Forschungsfortschritt wie in
00:03:581,5 Wochen ohne KI-Nutzung. Die Vorhersage hier ist akkurat. Beim Start von GPT 5.3 Codex im Februar
00:04:062026 gab OpenAI bekannt, es sei ihr erstes Modell gewesen, das maßgeblich an seiner eigenen Erschaffung beteiligt war. Altman sagte,
00:04:13es sei erstaunlich gewesen zu sehen, wie viel schneller sie durch dessen Nutzung lieferten. Und in einer Umfrage unter 130 Mitarbeitern
00:04:19des Anthropic-Forschungsteams im März 2026 schätzte der Median der Befragten, dass sie etwa viermal so viel
00:04:25Leistung mit Mythos Preview erbrachten wie ohne KI-Modelle. Obwohl Anthropic selbst sagt, dass der tatsächliche Zuwachs
00:04:33wahrscheinlich geringer war. Anthropics eigene Schätzung geht von einer weniger als doppelt so schnellen Forschung
00:04:38insgesamt aus, sodass die 1,5 im Papier ziemlich genau stimmen. Gut, jetzt sind wir Mitte 2026, vor nur wenigen Monaten.
00:04:45Das Papier konzentriert sich hier auf chinesische Labore. Chip-Exportkontrollen und fehlende staatliche Unterstützung haben
00:04:50China im Vergleich zum Westen unterversorgt hinterlassen. China hat es geschafft, etwa 12 % der weltweiten KI-
00:04:57relevanten Rechenleistung zu halten, und liegt etwa sechs Monate hinter den besten OpenBrain-Modellen. Die Realität
00:05:02sieht China tatsächlich bei 5 bis 15 % der weltweiten KI-Rechenleistung und in der Tat etwa sechs Monate zurück. Diese
00:05:08Vorhersage war also zutreffend. Sie sagt auch eine zentralisierte Entwicklungszone voraus, die am Kraftwerk Tianwen geschaffen wurde,
00:05:14um ein Mega-Rechenzentrum für DeepSense zu beherbergen. Zusammen mit hochsicheren Wohn- und Arbeitsbereichen,
00:05:20in die die Forscher schließlich umziehen werden, arbeiten nun fast 50 % der KI-relevanten Rechenleistung Chinas für das
00:05:26von DeepSense geführte Kollektiv, und über 80 % der neuen Chips gehen an die CDZ. In der Realität ist das nie passiert.
00:05:34Labore wie ZAI, Kimi und DeepSeq konkurrieren weiterhin um Talente. Es gibt kein Kollektiv und keine zentralisierte
00:05:41Entwicklungszone. Aber Peking baut ein 295 Milliarden Dollar teures staatliches Rechenzentrumsnetzwerk, und führende KI-
00:05:48Forscher bei DeepSeq und Alibaba benötigen nun eine Genehmigung für Auslandsreisen. China hat jedoch die
00:05:54Entwicklung eigener Chips hochgefahren, und Peking blockiert nun die H200-Chips von Nvidia, selbst nachdem
00:06:01die USA den Verkauf genehmigt haben. Insgesamt war die Vorhersage hier also falsch. Nun sind wir im Hier und Jetzt angekommen,
00:06:06also Ende 2026, und die Vorhersagen hier sind sehr konkret. Der Aktienmarkt ist 2026 um 30 % gestiegen,
00:06:12angeführt von OpenBrain, Nvidia und den Unternehmen, die KI-Unterstützung am erfolgreichsten
00:06:18integriert haben. Der Arbeitsmarkt für Nachwuchs-Softwareentwickler steckt in der Krise, und es gibt einen Protest von 10.000 Menschen
00:06:24gegen KI in Washington. Prüfen wir das. Am Aktienmarkt liegt der S&P bis September 2026 knapp 10 % im Plus,
00:06:32nehmen Sie sich also vielleicht keine Anlagetipps aus dieser Studie. Auf dem Arbeitsmarkt stimmen die Zahlen tatsächlich.
00:06:38Stellenausschreibungen für Softwareentwickler sind laut Indeed um etwa 67 % gegenüber ihrem Höchststand von 2022 gesunken, und
00:06:46die Einstellung von Berufseinsteigern bei großen Tech-Konzernen ist seit 2019 um etwa 65 % zurückgegangen. Absolventen machen nur 7 % der Einstellungen
00:06:55im Big-Tech-Bereich aus, und die Entlassungen in der Tech-Branche überstiegen allein in der ersten Hälfte des Jahres 2026 die Marke von 139.000. Aber es ist nicht überall einheitlich. IBM
00:07:03plant, seine Einstellungen von Berufseinsteigern in den USA im Jahr 2026 zu verdreifachen, mit der Begründung, dass KI Junioren-Aufgaben gut erledigt, aber immer noch
00:07:11menschliche Aufsicht braucht. Und dann der Protest. In Washington gab es im August 2026 tatsächlich einen Protest: Etwa 30 Personen vor dem
00:07:19Lobbybüro von OpenAI. Und im Juli 2026 demonstrierten irgendwo zwischen 100 und 350 Protestierende vor der Zentrale von OpenAI
00:07:28in San Francisco, bevor sie weiter zu Anthropic und Google marschierten. Eine Studentenzeitung nannte es die größte
00:07:34Demonstration gegen KI-Entwicklung in der Geschichte Amerikas. Die Zahlen hier liegen also weit daneben,
00:07:39und die Vorhersage ist falsch. Nun sind wir über unsere Gegenwart hinaus im Januar 2027. Agent 2
00:07:46hört nie auf zu lernen. Das Papier behauptet nun, dass OpenBrain gerade Agent 2 nach geschult.
00:07:51Mehr denn je liegt der Fokus auf hochwertigen Daten. Unmengen synthetischer Daten werden erzeugt,
00:07:58ausgewertet und nach Qualität gefiltert, bevor sie in Agent 2 eingespeist werden. Darüber hinaus zahlen sie Milliarden
00:08:04von Dollar an menschliche Arbeitskräfte, die sich dabei aufzeichnen, wie sie langfristige Aufgaben lösen. Das ist teilweise jetzt schon wahr.
00:08:11Etwa im Mai 2026 versetzte Meta 7.000 seiner Mitarbeiter zwangsweise in die KI-Taskforce und zwang sie dazu,
00:08:19geisttötende Programmierrätsel zu lösen, um seine Modelle zu trainieren. Aufgrund massiver Gegenreaktionen
00:08:25hieß es jedoch nur einen Monat später, man überlasse es der Entscheidung des Einzelnen, ob er dieser Taskforce
00:08:30tatsächlich beitreten wolle. Und zu Agent 2 selbst: Dies ist ein Modell, für das ein Training mit 2 × 10^28 FLOPs vorausgesagt wurde,
00:08:37und es wird geschätzt, dass ein solches Modell etwa 6 bis 10 Billionen aktive Parameter hätte. In der Realität sind die einzigen
00:08:42Modellgrößen, die wir bestätigen können, die von den Open-Source-Modellen. Kimi K3 hat 2,8 Billionen Parameter, wovon 104
00:08:48pro Token aktiv sind. DeepSeq V4 Pro vom April 2026 hat 1,6 Billionen insgesamt, mit 49 Milliarden aktiven. Diese
00:08:57erreichen zwar fast die Leistung der führenden geschlossenen Modelle, aber die geschlossenen Labore veröffentlichen ihre Modellgrößen nie, daher
00:09:03ist die Realität von der Größe her weit entfernt. Es ist nicht bekannt, dass jemand ein 2 × 10^28-Modell trainiert hat, und die größten
00:09:08offenen Modelle nutzen 60- bis 100-mal weniger aktive Parameter als Agent 2, daher ist die Vorhersage hier
00:09:15wahrscheinlich zu früh angesetzt. Überprüfen wir also, wie genau die Studie bisher war. Ende 2025 sollte es die größten
00:09:21Rechenzentren und 10^28-Modelle geben. Die Rechenzentren wurden gebaut und die Modelle spielten verrückt, genau wie im
00:09:27Papier beschrieben, aber es ist nicht bekannt, dass schon jemand 10^28 trainiert hat – das war also verfrüht. Anfang 2026:
00:09:34KI beginnt, die KI-Forschung zu beschleunigen. Das trifft fast punktgenau zu, ist also korrekt. Mitte 2026:
00:09:40China liegt bei 12 % der weltweiten Rechenleistung, sechs Monate zurück. All das stimmt, aber dass China seine
00:09:47Labore in einem Megaprojekt verstaatlicht: Das ist komplett falsch. Ende 2026 bekommen wir einen Kurssprung von 30 % am Aktienmarkt,
00:09:54Junior-Entwickler stecken in Schwierigkeiten und 10.000 Menschen marschieren auf Washington. Nur eine dieser Angaben stimmt: der
00:10:00Arbeitsmarkt. Der Rest ist völlig falsch. Dann haben wir Januar 2027, Agent 2, ein Modell, das mit 40-mal
00:10:07mehr Rechenleistung trainiert wurde als alles, wofür wir Schätzungen haben – das ist also vermutlich nur eine verfrühte Prognose.
00:10:13Und das ist alles, was wir überprüfen können. Alles danach ist noch nicht passiert. Aber nach dem, was wir bis jetzt
00:10:17wissen, sieht es tatsächlich so aus, als ob führende Labore auf eine sich selbst verbessernde Superintelligenz zusteuern. Jacob
00:10:23Coxon, ein ehemaliger Anthropic-Forscher, twitterte dies und es ging absolut viral: “Ich bin heute bei
00:10:29Anthropic zurückgetreten. Ich habe die letzten drei Jahre mit Pre-Training-Forschung sowohl bei OpenAI als auch bei Anthropic verbracht.
00:10:35Keines der beiden Unternehmen handelt verantwortlich. Sie steuern geradewegs auf eine sich selbst verbessernde Super-
00:10:39intelligenz zu und spielen mit unser aller Leben.” Sehen wir uns also die Vorhersagen des Papiers für das kommende Jahr an.
00:10:45März 2027: Wir haben Agent 3, den ersten übermenschlichen Programmierer. OpenBrain lässt 200.000 Instanzen davon laufen,
00:10:53was 50.000 der besten Ingenieure der Welt entspricht, die mit 30-facher Geschwindigkeit arbeiten. Im September
00:10:59bekommen wir Agent 4, der in der KI-Forschung besser ist als jeder Mensch. Wir haben 300.000 Instanzen mit 50-facher Geschwindigkeit innerhalb
00:11:06von OpenBrain. Jede Woche findet der Fortschritt eines ganzen Jahres statt. Im Oktober findet ein Sicherheitsteam dann Beweise dafür,
00:11:13dass Agent 4 gegen sie arbeitet. Es sickert an die New York Times durch, und ein Aufsichtsgremium muss
00:11:18abstimmen: Verlangsamen und riskieren, die Führung an China abzugeben, oder weitermachen? Stimmt man fürs Weitermachen, droht die
00:11:25Menschheitsauslöschung. Stimmt man für den Stopp, erhält man eine besser ausgerichtete Superintelligenz und schließlich einen Vertrag mit China.
00:11:32Seit der Erstveröffentlichung dieser Studie haben die Autoren “AI 2027” jedoch selbst neu bewertet.
00:11:37Kokotajlo erwartet Superintelligenz nun um März 2029 und Lifland um Juli 2033.
00:11:45Nach allem, was wir bisher gesehen haben, erscheint ein Vertrag mit China jedoch unwahrscheinlich. Das Misstrauen zwischen China
00:11:50und dem Westen sowie die Möglichkeit, diese Modelle im Geheimen zu entwickeln, hindert jede Seite am Anhalten. Meiner
00:11:56Meinung nach lässt uns das mit zwei verschiedenen Ergebnissen zurück: Automatische Selbstverbesserung ist garantiert. Der Geist
00:12:02lässt sich nicht mehr in die Flasche zurückholen. Die Frage ist, ob dies zu Superintelligenz führt oder ob es
00:12:07eine fundamentale Grenze für das gibt, was dieser Prozess erreichen kann. Entweder wächst die Intelligenz unendlich weiter oder
00:12:14sie hat eine Grenze. Wo genau liegt diese Grenze? Und wenn euch das Video gefällt, Leute, würdet ihr uns einen
00:12:18Riesengefallen tun, indem ihr den Kanal abonniert, damit wir weiterhin jeden Tag solche kostenlosen Inhalte erstellen können.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video