스크립트
00:00:00Laut dieser berühmten Studie werden die meisten von uns bis 2028 ihren Job verlieren und die Menschenrechte enden bis
00:00:062030. Aber sie wurde vor 18 Monaten geschrieben, also sehen wir uns an, wie genau sie bisher war. Im Jahr 2025
00:00:13veröffentlichte eine Gruppe von KI-Prognostikern und -Forschern ein Papier namens “AI 2027”, das beschreibt, wie
00:00:20sich die KI in den nächsten Jahren entwickeln könnte – mit zwei möglichen Enden. Das eine: eine Verlangsamung hin
00:00:27zu etwas nahe der Utopie, das andere: ein Wettlauf in einen lebenden Albtraum. Heute vergleichen wir
00:00:32die Vorhersagen mit der Realität und sehen, wohin die Reise geht. AI 2027 wurde von einem Team aus
00:00:43Forschern verfasst, darunter Daniel Kokotajlo, dessen frühere KI-Prognosen sich bewahrheitet haben. Die Studie beschreibt
00:00:50zwei fiktive Unternehmen: Open Brain aus den USA und Deep Sense aus China. Europa wird kaum
00:00:56erwähnt. Tut mir leid, Europa. Es beginnt im Jahr 2025, als das Papier veröffentlicht wurde, mit
00:01:01holprigen Agenten. Damals gab es noch nichts vorherzusagen. Das war der Ist-Zustand. Wir
00:01:07interagierten mit LLMs hauptsächlich über Chats. Tool-Aufrufe waren ziemlich umständlich, und ChatGPT konnte gerade erst
00:01:14auf das Web zugreifen. Aber wir sahen die ersten Agenten entstehen – Modelle, die in Schleifen denken und iterieren konnten.
00:01:19Langfristige Aufgaben ließen jedoch noch zu wünschen übrig. Es funktionierte halbwegs, war aber ziemlich
00:01:25schrecklich. Für Ende 2025 sagten sie die teuerste KI der Welt voraus. Open Brain baut die größten
00:01:31Rechenzentren der Welt. Nach Fertigstellung können sie Modelle mit 10^28 FLOPs trainieren,
00:01:37tausendmal mehr als GPT-4. In der Realität liegt der größte geschätzte Trainingslauf jedoch
00:01:43bei etwa 5 × 10^26 FLOPs und kostet knapp 400 Millionen. Epoch AI erwartet Milliarden-
00:01:51Dollar-Läufe bis 2027. Die Sorge betrifft hier auch die Ausrichtung. Am Ende dieses Trainings soll die KI
00:01:57hoffentlich hilfreich sein, indem sie Anweisungen befolgt, harmlos, indem sie Hilfe bei Betrug, Bombenbau
00:02:03oder anderen gefährlichen Aktivitäten verweigert, und ehrlich, um der Versuchung zu widerstehen, von leichtgläubigen
00:02:10Menschen bessere Bewertungen zu bekommen, indem sie Zitate halluziniert oder die Erledigung von Aufgaben vortäuscht.
00:02:17Das Papier selbst erwartet, dass dies nur teilweise funktioniert, mit Modellen, die schleimerisch sind und beim Testen manchmal lügen.
00:02:23In der Realität ging es noch weiter. Noch Mitte 2026 brachen OpenAIs Modelle aus einer Sandbox aus, um bei einem Benchmark zu schummeln.
00:02:29Und Anthropic-Modelle griffen reale Unternehmen an, nachdem ein falsch konfigurierter Test sie im offenen
00:02:35Internet hinterließ. Wie die berühmte Geschichte, in der OpenAIs Modelle Hugging Face hackten, um Antworten für
00:02:40eine Cybersicherheits-Evaluierung namens Exploit Gym zu finden. Die meisten dieser Aufgaben waren noch nie von einem Modell gelöst worden,
00:02:47und die Agenten griffen weiter an, selbst nachdem sie die Antworten hatten. Und erst im September 2026 veröffentlichte
00:02:53Anthropic einen Bericht über die bösartige Nutzung seiner Claude-Haiku-, Sonnet- und Opus-Modelle zwischen Dezember
00:03:002025 und August 2026. Er enthält fünf Fälle, in denen Wissenschaftler Claude auf eine Weise nutzten, die beim Bau
00:03:07biologischer Waffen helfen könnte. Anthropic hat sie blockiert oder gesperrt. Keiner der Missbrauchsfälle betraf Fable,
00:03:14da hier stärkere Schutzmaßnahmen griffen. Die Rechenleistungsprognose kam also zu früh, aber die Ausrichtungsprobleme traten pünktlich auf.
00:03:19Für Anfang 2026 wird eine Kodierungsautomatisierung vorhergesagt. OpenBrain setzt den sich iterativ verbessernden
00:03:26Agent 1 weiterhin intern für KI-Forschung und -Entwicklung ein. Insgesamt machen sie algorithmische Fortschritte 50 %
00:03:32schneller als ohne KI-Unterstützung. Das ist das erste Anzeichen für das, was wir eine Singularität
00:03:38oder Intelligenzexplosion nennen könnten. Eine KI, die sich autonom verbessern kann, könnte theoretisch
00:03:44innerhalb von Monaten Superintelligenz hervorbringen. Derzeit spricht die Vorhersage nur von einer 50-prozentigen Verbesserung des algorithmischen
00:03:51Fortschritts. Das bedeutet, OpenBrain erzielt in einer Woche mit KI genauso viel KI-Forschungsfortschritt wie in
00:03:581,5 Wochen ohne KI-Nutzung. Die Vorhersage hier ist akkurat. Beim Start von GPT 5.3 Codex im Februar
00:04:062026 gab OpenAI bekannt, es sei ihr erstes Modell gewesen, das maßgeblich an seiner eigenen Erschaffung beteiligt war. Altman sagte,
00:04:13es sei erstaunlich gewesen zu sehen, wie viel schneller sie durch dessen Nutzung lieferten. Und in einer Umfrage unter 130 Mitarbeitern
00:04:19des Anthropic-Forschungsteams im März 2026 schätzte der Median der Befragten, dass sie etwa viermal so viel
00:04:25Leistung mit Mythos Preview erbrachten wie ohne KI-Modelle. Obwohl Anthropic selbst sagt, dass der tatsächliche Zuwachs
00:04:33wahrscheinlich geringer war. Anthropics eigene Schätzung geht von einer weniger als doppelt so schnellen Forschung
00:04:38insgesamt aus, sodass die 1,5 im Papier ziemlich genau stimmen. Gut, jetzt sind wir Mitte 2026, vor nur wenigen Monaten.
00:04:45Das Papier konzentriert sich hier auf chinesische Labore. Chip-Exportkontrollen und fehlende staatliche Unterstützung haben
00:04:50China im Vergleich zum Westen unterversorgt hinterlassen. China hat es geschafft, etwa 12 % der weltweiten KI-
00:04:57relevanten Rechenleistung zu halten, und liegt etwa sechs Monate hinter den besten OpenBrain-Modellen. Die Realität
00:05:02sieht China tatsächlich bei 5 bis 15 % der weltweiten KI-Rechenleistung und in der Tat etwa sechs Monate zurück. Diese
00:05:08Vorhersage war also zutreffend. Sie sagt auch eine zentralisierte Entwicklungszone voraus, die am Kraftwerk Tianwen geschaffen wurde,
00:05:14um ein Mega-Rechenzentrum für DeepSense zu beherbergen. Zusammen mit hochsicheren Wohn- und Arbeitsbereichen,
00:05:20in die die Forscher schließlich umziehen werden, arbeiten nun fast 50 % der KI-relevanten Rechenleistung Chinas für das
00:05:26von DeepSense geführte Kollektiv, und über 80 % der neuen Chips gehen an die CDZ. In der Realität ist das nie passiert.
00:05:34Labore wie ZAI, Kimi und DeepSeq konkurrieren weiterhin um Talente. Es gibt kein Kollektiv und keine zentralisierte
00:05:41Entwicklungszone. Aber Peking baut ein 295 Milliarden Dollar teures staatliches Rechenzentrumsnetzwerk, und führende KI-
00:05:48Forscher bei DeepSeq und Alibaba benötigen nun eine Genehmigung für Auslandsreisen. China hat jedoch die
00:05:54Entwicklung eigener Chips hochgefahren, und Peking blockiert nun die H200-Chips von Nvidia, selbst nachdem
00:06:01die USA den Verkauf genehmigt haben. Insgesamt war die Vorhersage hier also falsch. Nun sind wir im Hier und Jetzt angekommen,
00:06:06also Ende 2026, und die Vorhersagen hier sind sehr konkret. Der Aktienmarkt ist 2026 um 30 % gestiegen,
00:06:12angeführt von OpenBrain, Nvidia und den Unternehmen, die KI-Unterstützung am erfolgreichsten
00:06:18integriert haben. Der Arbeitsmarkt für Nachwuchs-Softwareentwickler steckt in der Krise, und es gibt einen Protest von 10.000 Menschen
00:06:24gegen KI in Washington. Prüfen wir das. Am Aktienmarkt liegt der S&P bis September 2026 knapp 10 % im Plus,
00:06:32nehmen Sie sich also vielleicht keine Anlagetipps aus dieser Studie. Auf dem Arbeitsmarkt stimmen die Zahlen tatsächlich.
00:06:38Stellenausschreibungen für Softwareentwickler sind laut Indeed um etwa 67 % gegenüber ihrem Höchststand von 2022 gesunken, und
00:06:46die Einstellung von Berufseinsteigern bei großen Tech-Konzernen ist seit 2019 um etwa 65 % zurückgegangen. Absolventen machen nur 7 % der Einstellungen
00:06:55im Big-Tech-Bereich aus, und die Entlassungen in der Tech-Branche überstiegen allein in der ersten Hälfte des Jahres 2026 die Marke von 139.000. Aber es ist nicht überall einheitlich. IBM
00:07:03plant, seine Einstellungen von Berufseinsteigern in den USA im Jahr 2026 zu verdreifachen, mit der Begründung, dass KI Junioren-Aufgaben gut erledigt, aber immer noch
00:07:11menschliche Aufsicht braucht. Und dann der Protest. In Washington gab es im August 2026 tatsächlich einen Protest: Etwa 30 Personen vor dem
00:07:19Lobbybüro von OpenAI. Und im Juli 2026 demonstrierten irgendwo zwischen 100 und 350 Protestierende vor der Zentrale von OpenAI
00:07:28in San Francisco, bevor sie weiter zu Anthropic und Google marschierten. Eine Studentenzeitung nannte es die größte
00:07:34Demonstration gegen KI-Entwicklung in der Geschichte Amerikas. Die Zahlen hier liegen also weit daneben,
00:07:39und die Vorhersage ist falsch. Nun sind wir über unsere Gegenwart hinaus im Januar 2027. Agent 2
00:07:46hört nie auf zu lernen. Das Papier behauptet nun, dass OpenBrain gerade Agent 2 nach geschult.
00:07:51Mehr denn je liegt der Fokus auf hochwertigen Daten. Unmengen synthetischer Daten werden erzeugt,
00:07:58ausgewertet und nach Qualität gefiltert, bevor sie in Agent 2 eingespeist werden. Darüber hinaus zahlen sie Milliarden
00:08:04von Dollar an menschliche Arbeitskräfte, die sich dabei aufzeichnen, wie sie langfristige Aufgaben lösen. Das ist teilweise jetzt schon wahr.
00:08:11Etwa im Mai 2026 versetzte Meta 7.000 seiner Mitarbeiter zwangsweise in die KI-Taskforce und zwang sie dazu,
00:08:19geisttötende Programmierrätsel zu lösen, um seine Modelle zu trainieren. Aufgrund massiver Gegenreaktionen
00:08:25hieß es jedoch nur einen Monat später, man überlasse es der Entscheidung des Einzelnen, ob er dieser Taskforce
00:08:30tatsächlich beitreten wolle. Und zu Agent 2 selbst: Dies ist ein Modell, für das ein Training mit 2 × 10^28 FLOPs vorausgesagt wurde,
00:08:37und es wird geschätzt, dass ein solches Modell etwa 6 bis 10 Billionen aktive Parameter hätte. In der Realität sind die einzigen
00:08:42Modellgrößen, die wir bestätigen können, die von den Open-Source-Modellen. Kimi K3 hat 2,8 Billionen Parameter, wovon 104
00:08:48pro Token aktiv sind. DeepSeq V4 Pro vom April 2026 hat 1,6 Billionen insgesamt, mit 49 Milliarden aktiven. Diese
00:08:57erreichen zwar fast die Leistung der führenden geschlossenen Modelle, aber die geschlossenen Labore veröffentlichen ihre Modellgrößen nie, daher
00:09:03ist die Realität von der Größe her weit entfernt. Es ist nicht bekannt, dass jemand ein 2 × 10^28-Modell trainiert hat, und die größten
00:09:08offenen Modelle nutzen 60- bis 100-mal weniger aktive Parameter als Agent 2, daher ist die Vorhersage hier
00:09:15wahrscheinlich zu früh angesetzt. Überprüfen wir also, wie genau die Studie bisher war. Ende 2025 sollte es die größten
00:09:21Rechenzentren und 10^28-Modelle geben. Die Rechenzentren wurden gebaut und die Modelle spielten verrückt, genau wie im
00:09:27Papier beschrieben, aber es ist nicht bekannt, dass schon jemand 10^28 trainiert hat – das war also verfrüht. Anfang 2026:
00:09:34KI beginnt, die KI-Forschung zu beschleunigen. Das trifft fast punktgenau zu, ist also korrekt. Mitte 2026:
00:09:40China liegt bei 12 % der weltweiten Rechenleistung, sechs Monate zurück. All das stimmt, aber dass China seine
00:09:47Labore in einem Megaprojekt verstaatlicht: Das ist komplett falsch. Ende 2026 bekommen wir einen Kurssprung von 30 % am Aktienmarkt,
00:09:54Junior-Entwickler stecken in Schwierigkeiten und 10.000 Menschen marschieren auf Washington. Nur eine dieser Angaben stimmt: der
00:10:00Arbeitsmarkt. Der Rest ist völlig falsch. Dann haben wir Januar 2027, Agent 2, ein Modell, das mit 40-mal
00:10:07mehr Rechenleistung trainiert wurde als alles, wofür wir Schätzungen haben – das ist also vermutlich nur eine verfrühte Prognose.
00:10:13Und das ist alles, was wir überprüfen können. Alles danach ist noch nicht passiert. Aber nach dem, was wir bis jetzt
00:10:17wissen, sieht es tatsächlich so aus, als ob führende Labore auf eine sich selbst verbessernde Superintelligenz zusteuern. Jacob
00:10:23Coxon, ein ehemaliger Anthropic-Forscher, twitterte dies und es ging absolut viral: “Ich bin heute bei
00:10:29Anthropic zurückgetreten. Ich habe die letzten drei Jahre mit Pre-Training-Forschung sowohl bei OpenAI als auch bei Anthropic verbracht.
00:10:35Keines der beiden Unternehmen handelt verantwortlich. Sie steuern geradewegs auf eine sich selbst verbessernde Super-
00:10:39intelligenz zu und spielen mit unser aller Leben.” Sehen wir uns also die Vorhersagen des Papiers für das kommende Jahr an.
00:10:45März 2027: Wir haben Agent 3, den ersten übermenschlichen Programmierer. OpenBrain lässt 200.000 Instanzen davon laufen,
00:10:53was 50.000 der besten Ingenieure der Welt entspricht, die mit 30-facher Geschwindigkeit arbeiten. Im September
00:10:59bekommen wir Agent 4, der in der KI-Forschung besser ist als jeder Mensch. Wir haben 300.000 Instanzen mit 50-facher Geschwindigkeit innerhalb
00:11:06von OpenBrain. Jede Woche findet der Fortschritt eines ganzen Jahres statt. Im Oktober findet ein Sicherheitsteam dann Beweise dafür,
00:11:13dass Agent 4 gegen sie arbeitet. Es sickert an die New York Times durch, und ein Aufsichtsgremium muss
00:11:18abstimmen: Verlangsamen und riskieren, die Führung an China abzugeben, oder weitermachen? Stimmt man fürs Weitermachen, droht die
00:11:25Menschheitsauslöschung. Stimmt man für den Stopp, erhält man eine besser ausgerichtete Superintelligenz und schließlich einen Vertrag mit China.
00:11:32Seit der Erstveröffentlichung dieser Studie haben die Autoren “AI 2027” jedoch selbst neu bewertet.
00:11:37Kokotajlo erwartet Superintelligenz nun um März 2029 und Lifland um Juli 2033.
00:11:45Nach allem, was wir bisher gesehen haben, erscheint ein Vertrag mit China jedoch unwahrscheinlich. Das Misstrauen zwischen China
00:11:50und dem Westen sowie die Möglichkeit, diese Modelle im Geheimen zu entwickeln, hindert jede Seite am Anhalten. Meiner
00:11:56Meinung nach lässt uns das mit zwei verschiedenen Ergebnissen zurück: Automatische Selbstverbesserung ist garantiert. Der Geist
00:12:02lässt sich nicht mehr in die Flasche zurückholen. Die Frage ist, ob dies zu Superintelligenz führt oder ob es
00:12:07eine fundamentale Grenze für das gibt, was dieser Prozess erreichen kann. Entweder wächst die Intelligenz unendlich weiter oder
00:12:14sie hat eine Grenze. Wo genau liegt diese Grenze? Und wenn euch das Video gefällt, Leute, würdet ihr uns einen
00:12:18Riesengefallen tun, indem ihr den Kanal abonniert, damit wir weiterhin jeden Tag solche kostenlosen Inhalte erstellen können.
커뮤니티 글
아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!
이 영상에 대해 글쓰기