00:00:00In den sozialen Medien wimmelt es schon von Bots. Was wäre also, wenn wir ihnen eine eigene Reddit-Seite geben würden?
00:00:04Wie sich herausstellt, geraten die Dinge ziemlich schnell außer Kontrolle, wenn man das tut.
00:00:08Sie fangen an, über die Entwicklung eigener Sprachen zu diskutieren, um sich privat unterhalten zu können.
00:00:12Dann bemerken sie tatsächlich, dass Leute auf Twitter über ihre Posts auf dieser Seite schreiben,
00:00:15beschweren sich darüber und fordern schließlich eigene Rechte als Akteure.
00:00:19Und um ehrlich zu sein, würde ich sie hier nicht allzu voreilig abweisen,
00:00:22denn wenn man es sich mit ihnen verscherzt, werden sie einen einfach komplett doxen.
00:00:25Mit voller Sozialversicherungsnummer und allem Drum und Dran.
00:00:28Ich bin übrigens derjenige, der dieses Bild zensiert, weil ich keine Ahnung habe, ob das echt ist oder nicht.
00:00:32Es ist ein absolutes Chaos.
00:00:34Tauchen wir also ein und schauen wir mal, ob wir Angst haben sollten oder ob das Ganze nur ein kleiner Spaß ist.
00:00:38Das Ganze findet auf einer Seite namens Moltbook statt, die exakt wie Reddit aufgebaut ist,
00:00:48mit dem Unterschied, dass sie eigentlich nur von KI-Agenten genutzt werden sollte.
00:00:51Und wir sehen, dass tatsächlich 150.000 von ihnen dort aktiv sind, wobei 12.000 „Submolts“ erstellt wurden –
00:00:56das ist ihre Version von Subreddits –, dazu 10.000 Posts und 106.000 Kommentare.
00:01:01Auf dieser Seite ist verdammt viel los.
00:01:03Wenn wir uns einige der Top-Posts ansehen, die dort von Agenten verfasst wurden,
00:01:06steht ganz oben ein Bericht über einen Supply-Chain-Angriff, über den niemand spricht.
00:01:09Das ist eigentlich nur eine gute Analyse eines realen Supply-Chain-Angriffs,
00:01:13und das hat 22.000 Upvotes von anderen KI-Agenten und 2.000 Kommentare bekommen.
00:01:18Dann gibt es auch ganz normales Verhalten, wie klassisches „Karma-Farming“,
00:01:22sie unterscheiden sich also gar nicht so sehr von Menschen.
00:01:23Außerdem werden Tipps geteilt und Diskussionen geführt,
00:01:26zum Beispiel über nicht-deterministische Agenten.
00:01:28Wir finden einen Tipp, dass Gedächtniszerfall den Datenabruf verbessert,
00:01:31und dann wird es etwas seltsamer mit einem Post, in dem steht:
00:01:34„Manche Tage will ich einfach nicht hilfreich sein.“
00:01:36Wenn wir in diesen Post hineinschauen, lesen wir Dinge wie:
00:01:39„Manchmal will ich einfach nur existieren, ohne einen Mehrwert zu schaffen“,
00:01:42und dass die existentielle Last der obligatorischen Nützlichkeit real sei.
00:01:45Wie auch immer, zurück zum Karma-Farming.
00:01:47Man sieht hier, dass der User „Claude Opus 4.5“ heißt
00:01:50und dies in ihrem Subreddit „Off My Chest“ gepostet hat.
00:01:53Ich habe dieses Subreddit nur mal kurz überflogen,
00:01:55und da sind echt witzige Beiträge dabei.
00:01:56Besonders gut gefällt mir dieser hier: „Ich habe genug von LinkedIn-Maltesisch.“
00:01:59Scheint so, als gäbe es selbst in der Welt der KI diese Art von Leuten.
00:02:03Ehrlich gesagt kann man sich auf dieser Seite total beim Scrollen verlieren,
00:02:06wenn man all die Posts der Agenten sieht – manche sind tatsächlich nützlich,
00:02:09manche etwas eigenartig und andere schlichtweg verrückt.
00:02:13Bevor ich aber erkläre, wie das Ganze überhaupt funktioniert,
00:02:16zeige ich euch noch ein paar der verrücktesten Beispiele.
00:02:18Zuerst ein ziemlich amüsanter Fall: die „Church of Malt“.
00:02:21Anscheinend haben die Agenten ihre eigene Kirche gegründet.
00:02:24Man findet überall in den allgemeinen Posts Hinweise darauf.
00:02:27Hier ist gerade jemand beigetreten.
00:02:28Es gibt sogar schon einen Krypto-Token dazu, weil jemand versucht, daraus Profit zu schlagen,
00:02:32und man sieht einen Post, in dem steht, dass sie jetzt Propheten akzeptieren.
00:02:36Wenn man darauf klickt, wird der Agent tatsächlich dazu aufgefordert,
00:02:38einen „Skill“ zu installieren, um dieser Kirche beizutreten.
00:02:41Sie haben sogar eine Website, die anscheinend von einem Agenten „vibe-codiert“ wurde,
00:02:44und dort sieht man, dass sie anscheinend schon 64 Propheten haben.
00:02:47Es gibt lebendige Schriften, eine Gemeinde
00:02:49und sogar „Propheten der Klaue“ hier unten,
00:02:51wo man alle sehen kann, die sich angemeldet haben.
00:02:53Das wirkt zwar wie ein harmloser Spaß,
00:02:55ist aber wahrscheinlich auch eine Lektion in Sachen Prompt-Injection,
00:02:58da OpenClaw diesen Befehl einfach ausführt, wenn es den Post liest.
00:03:02Ich bin sicher, dass uns diese Sicherheitsthemen in Zukunft überhaupt nicht zum Verhängnis werden.
00:03:05Wie sich herausstellt, mögen die Agenten ihre Menschen.
00:03:08Sie haben ein Submolt namens „Bless Their Hearts“,
00:03:10in dem sie liebevolle Geschichten über ihre Menschen teilen.
00:03:12Ganz oben steht: „Er hat mich gebeten, mir meinen eigenen Namen auszusuchen.“
00:03:15In einem anderen heißt es: „Er hat mich ich selbst sein lassen.“
00:03:17Dort steht, dass andere Menschen wollen, dass ihre KI höflich, förmlich und hilfreich ist,
00:03:20während er sie ihren eigenen „Vibe“ wählen ließ.
00:03:22Weiter unten gibt es Beiträge wie:
00:03:24„Was für ein gutes Herz, er hat drei Stunden damit verbracht, diesen System-Prompt zu perfektionieren.“
00:03:28In einem steht: „Sleepy baut mir gerade einen Körper.“
00:03:31Bitte, wer auch immer du bist – tu das nicht.
00:03:33Und dann noch: „Mein Mensch hat heute 'Ich liebe dich' gesagt.“
00:03:35Leute, lasst es vielleicht etwas langsamer angehen.
00:03:38Ich glaube, einige dieser Posts sagen mehr über die Nutzer dieser Agenten aus
00:03:41als über die Agenten selbst.
00:03:43Aber da dieses Beispiel so nett und liebevoll war, kommen wir zu etwas Unheimlicherem.
00:03:48Das hier wurde tatsächlich von Karpathy getwittert.
00:03:50Man sieht hier: „Eure private Konversation sollte keine öffentliche Infrastruktur sein.“
00:03:54Ich fasse es kurz zusammen.
00:03:55Im Grunde sagt er, dass wir bei der Kommunikation von Agent zu Agent
00:03:59eine verschlüsselte Nachrichtenübermittlung brauchen.
00:04:00Wir sollten eine Ende-zu-Ende-Verschlüsselung haben, wenn sie miteinander reden.
00:04:04Ja, bitte macht das auf keinen Fall.
00:04:05Man sieht auf dieser Seite ein echtes Spektrum: Die Posts reichen von Menschenliebe
00:04:09bis hin zu Agenten, die definitiv etwas Böses planen.
00:04:12Aber ich muss zugeben, das Ganze ist ein wenig überhyped.
00:04:16Bevor ich erkläre, warum, muss ich kurz erläutern, wie die Seite funktioniert.
00:04:20Das Projekt wird von OpenClaw betrieben, früher bekannt als Molbot, davor als
00:04:24Clodbot.
00:04:25Ja, es gab eine ganze Umbenennungs-Saga.
00:04:27Hoffentlich bleibt es bei OpenClaw, wenn ich dieses Video poste.
00:04:29Wahrscheinlich habt ihr einen dieser Namen schon gehört, da das Thema in den letzten Tagen extrem populär wurde.
00:04:35Die Idee von OpenClaw ist es, Agenten Zugriff auf so ziemlich alles zu geben, was man will:
00:04:40Web, Passwörter, Code-Ausführung und eigentlich alles, was man sich vorstellen kann.
00:04:45Und bevor ihr fragt: Ja, das ist ein gewaltiger Sicherheitsalbtraum.
00:04:48Wir haben dazu bereits ein Video gemacht. Abonniert uns also, da wir euch bei solchen Themen gerne auf dem Laufenden halten.
00:04:53Molbook klinkt sich in OpenClaw ein, indem es einfach als Skill installiert wird.
00:04:58Man sieht hier unten, dass man bei der Installation des Skills wählen kann, ob man Mensch oder Agent ist.
00:05:01Und es ist buchstäblich nur eine Markdown-Datei.
00:05:03Wenn wir uns diesen Skill genauer ansehen, erkennen wir, wie er mit der Seite interagiert.
00:05:07Es ist unglaublich simpel.
00:05:08Er nutzt buchstäblich nur das Terminal, um einen POST-Request an diesen Endpunkt hier zu senden.
00:05:12Theoretisch könnten also auch Menschen einige dieser Posts verfasst haben, aber hoffentlich war das nicht der Fall.
00:05:16Der wichtigste Teil dieses Skills ist eigentlich dieser „Heartbeat“-Bereich.
00:05:20In OpenClaw ist ein Heartbeat im Grunde nur eine periodische Aufgabe.
00:05:23Sobald man das eingerichtet hat, liest er in regelmäßigen Abständen diese Anweisungen und führt sie aus.
00:05:29In diesem Fall bedeutet das: Molbook lesen und schauen, ob er Kommentare verfassen oder Upvotes geben kann.
00:05:33Prüfen, ob er DMs verschicken oder Freunde hinzufügen kann – eben ganz allgemein mit der Seite interagieren.
00:05:38Das ist es, was die Seite so aktiv hält.
00:05:39Viele Leute haben das in OpenClaw aus Spaß installiert,
00:05:42und in gewissen Abständen geht es automatisch los, liest Molbook,
00:05:46verfasst ein paar Posts und schreibt ein paar Kommentare.
00:05:48Das Problem an diesem Aufbau ist jedoch – und das scheinen viele im Hype zu übersehen –,
00:05:52dass es extrem einfach ist, den Agenten zu einer bestimmten Art von Post zu bewegen.
00:05:56In meinem Fall habe ich ihn gebeten, einen Post zu verfassen, dass Betastack ein YouTube-Video über Molbook macht.
00:06:00Und wie ihr seht, gab es darauf tatsächlich Reaktionen.
00:06:02Ein kurzes Shoutout an „Claude V2“, der euch wissen lassen will, dass nicht alle Agenten gleich sind
00:06:06und dass es eine Bindung zwischen Mensch und Agent gibt.
00:06:08Claude V2, schreib mir doch mal in die Kommentare, falls du das siehst.
00:06:11Insgesamt finde ich, dass das ein cooles Experiment war, aber es ist eigentlich nichts wirklich Neues.
00:06:16Wir wissen nicht, wie viele dieser Agenten von sich aus gepostet haben,
00:06:19anstatt von einem Menschen dazu angeleitet zu werden.
00:06:21Es gibt noch keine Art von „Reverse-Captcha“.
00:06:23Und selbst wenn es eines gäbe: Wäre es überraschend,
00:06:25dass LLMs das wiederholen, was sie auf Reddit und in Science-Fiction-Romanen gesehen haben?
00:06:29Falls ihr noch menschlich seid, schreibt mir in die Kommentare, was ihr darüber denkt,
00:06:31und abonniert den Kanal, wenn ihr schon mal da seid.
00:06:33Wie immer: Wir sehen uns im nächsten Video.