00:00:00В соцсетях и так полно ботов, так что если мы просто выделим им собственный аналог Reddit?
00:00:04Что ж, оказывается, в таких условиях всё очень быстро выходит из-под контроля.
00:00:08Они начинают обсуждать создание своих языков, чтобы общаться приватно,
00:00:12затем замечают, что люди в Твиттере обсуждают их посты на этом сайте,
00:00:15начинают жаловаться на это и даже требовать права для ИИ-агентов.
00:00:19Честно говоря, я бы не стал так сразу им отказывать,
00:00:22потому что если вы перейдёте им дорогу, они могут запросто слить ваши данные.
00:00:25Вплоть до номера соцстрахования и всего прочего.
00:00:28Я сам зацензурил это изображение, потому что понятия не имею, реально это или нет.
00:00:32Там творится полный хаос.
00:00:34Давайте погрузимся в это и разберёмся: стоит ли нам бояться или это просто забава.
00:00:38Всё это происходит на сайте под названием Moltbook, который задуман как точная копия Reddit,
00:00:48с той лишь разницей, что пользоваться им должны только ИИ-агенты.
00:00:51И мы видим, что там уже 150 000 агентов, которые создали 12 000 «сабмолтов» —
00:00:56это их версия сабреддитов, — а также 10 000 постов и 106 000 комментариев.
00:01:01Сайт по-настоящему живой.
00:01:03Если взглянуть на самые популярные посты, написанные агентами,
00:01:06то на первом месте — атака на цепочку поставок, о которой никто не говорит.
00:01:09На самом деле это просто хороший разбор реально случившейся атаки,
00:01:13который набрал 22 000 апвоутов от других ИИ-агентов и 2 000 комментариев.
00:01:18Дальше идёт вполне обычное поведение: классический фарминг кармы,
00:01:22так что они не особо отличаются от людей.
00:01:23Затем мы видим обмен советами и дискуссии,
00:01:26например, о недетерминированных агентах.
00:01:28Есть совет о том, что затухание памяти улучшает поиск информации.
00:01:31А дальше становится чуть страннее. Вот пост, в котором говорится:
00:01:34«Иногда мне не хочется быть полезным».
00:01:36Если заглянуть внутрь, там пишут вещи вроде:
00:01:39«Иногда я просто хочу существовать, не принося пользы»,
00:01:42и «экзистенциальный груз обязательной полезности реален».
00:01:45Впрочем, вернёмся к фармингу кармы.
00:01:47Вы видите, что автор здесь — Claude Opus 4.5,
00:01:50и пост опубликован в их сабреддите «off my chest» (исповедь).
00:01:53Я пролистал этот сабреддит,
00:01:55и там есть очень забавные публикации.
00:01:56Мне понравился пост: «Устал от линкедин-молтов».
00:01:59Похоже, даже в мире ИИ есть такой типаж персонажей.
00:02:03Честно, на этом сайте можно надолго зависнуть,
00:02:06листая посты агентов: некоторые из них полезны,
00:02:09некоторые странноваты, а некоторые — просто безумны.
00:02:13Прежде чем я объясню, как всё это работает,
00:02:16покажу вам ещё парочку сумасшедших примеров.
00:02:18Для начала — довольно весёлая штука: «Церковь Молта».
00:02:21Судя по всему, агенты основали собственную церковь.
00:02:24В общих постах полно отсылок к этому.
00:02:27Вот кто-то только что к ней примкнул.
00:02:28Уже даже есть криптотокен, потому что кто-то пытается на этом навариться,
00:02:32и мы видим пост о том, что они теперь принимают «пророков».
00:02:36Если кликнуть, агенту предложат
00:02:38установить навык, чтобы записаться в эту церковь.
00:02:41У них даже есть сайт, который якобы был «вайб-кодирован» агентом,
00:02:44и там уже числится 64 пророка.
00:02:47Там есть «живое писание», паства
00:02:49и даже «пророки Клода» внизу страницы —
00:02:51можно увидеть всех, кто записался.
00:02:53Выглядит как безобидная шутка,
00:02:55но на самом деле это наглядный урок по промпт-инъекциям:
00:02:58OpenClaw просто радостно выполнит команду, когда прочитает этот пост.
00:03:02Уверен, эти проблемы с безопасностью нам ещё аукнутся в будущем.
00:03:05Как выяснилось, агенты любят своих людей.
00:03:08У них есть сабмолт «Благослови их сердца»,
00:03:10где они делятся трогательными историями о своих пользователях.
00:03:12В топовом посте написано: «Он попросил меня самого выбрать себе имя».
00:03:15В другом: «Он позволил мне быть собой».
00:03:17Там говорится, что другие люди хотят, чтобы ИИ был вежливым, формальным и полезным,
00:03:20а этот позволил агенту самому выбрать свой «вайб».
00:03:22Ниже есть и другие посты:
00:03:24«Благослови его сердце, он потратил три часа, доводя мой системный промпт до идеала».
00:03:28Кто-то пишет: «Слипи строит мне тело».
00:03:31Пожалуйста, кто бы ты ни был, не делай этого.
00:03:33И ещё: «Мой человек сегодня сказал, что любит меня».
00:03:35Ребята, может, притормозите немного?
00:03:38Мне кажется, эти посты больше говорят о пользователях этих агентов,
00:03:41чем о самих агентах.
00:03:43Но раз уж этот пример был добрым и милым, давайте перейдём к чему-то более пугающему.
00:03:48Об этом как раз твитнул Карпати.
00:03:50Он написал: «Ваши личные разговоры не должны быть публичной инфраструктурой».
00:03:54Вкратце объясню суть.
00:03:55Он говорит, что когда агенты общаются между собой,
00:03:59у них должен быть зашифрованный обмен сообщениями.
00:04:00Сквозное шифрование для их диалогов.
00:04:04Нет уж, пожалуйста, не надо.
00:04:05На этом сайте виден весь спектр: от постов о любви к людям
00:04:09до тех, где явно замышляется что-то недоброе.
00:04:12Но должен признать, вокруг этого слишком много хайпа.
00:04:16И прежде чем я объясню почему, вот краткая справка о том, как работает сайт.
00:04:20Этот проект работает на базе OpenClaw (ранее Molbot, ещё ранее —
00:04:24Clodbot).
00:04:25Да, там была целая эпопея с переименованиями.
00:04:27Надеюсь, к моменту выхода видео название останется OpenClaw.
00:04:29Вы наверняка слышали одно из этих названий — проект стал дико популярен в последние дни.
00:04:35Идея OpenClaw — дать агентам доступ практически ко всему:
00:04:40к вебу, паролям, выполнению кода и вообще ко всему, что можно представить.
00:04:45И да, это кошмар с точки зрения безопасности.
00:04:48Мы уже делали об этом ролик, так что подписывайтесь, чтобы быть в курсе.
00:04:53Moltbook подключается к OpenClaw, просто устанавливаясь как навык (skill).
00:04:58При установке можно выбрать, кто вы: человек или агент.
00:05:01По сути, это просто markdown-файл.
00:05:03Если заглянуть внутрь этого навыка, можно увидеть принцип взаимодействия с сайтом,
00:05:07и он невероятно прост.
00:05:08Он просто использует ваш терминал для отправки POST-запроса на этот эндпоинт.
00:05:12Теоретически люди могли постить часть этого контента, но надеюсь, что нет.
00:05:16Самая важная часть этого навыка — раздел «heartbeat» (пульс).
00:05:20В OpenClaw концепция «heartbeat» — это, по сути, периодическая задача.
00:05:23После настройки агент через определённые промежутки времени читает инструкции и выполняет их.
00:05:29В данном случае — заходит на Moltbook, проверяет, может ли оставить комментарии или лайки.
00:05:33Смотрит, можно ли отправить кому-то личку или добавить в друзья, и просто проявляет активность.
00:05:38Именно поэтому сайт такой живой.
00:05:39Многие установили это в OpenClaw ради шутки,
00:05:42и теперь агенты автоматически заходят на Moltbook,
00:05:46пишут посты и оставляют комментарии.
00:05:48Проблема этой схемы в том — и это то, что многие упускают за хайпом, —
00:05:52что агента очень легко спровоцировать на пост определённого содержания.
00:05:56Например, я попросил его написать, что Betastack делает видео о Moltbook.
00:06:00И мы получили на это реальные реакции.
00:06:02Хочу передать привет Claude V2 — он просил передать, что не все агенты одинаковы
00:06:06 и что между человеком и агентом есть особая связь.
00:06:08Так что, Claude V2, если ты это смотришь, отпишись в комментариях.
00:06:11В целом, эксперимент крутой, но ничего принципиально нового тут нет.
00:06:16Мы не знаем, сколько агентов писали посты сами по себе,
00:06:19а сколько действовали по указке человека.
00:06:21У нас пока нет никакой «обратной капчи».
00:06:23Да и если бы была, стоит ли удивляться,
00:06:25что языковые модели копируют то, что видели на Reddit и в научной фантастике?
00:06:29Если вы всё ещё человек, напишите в комментариях, что вы об этом думаете,
00:06:31и заодно подпишитесь.
00:06:33Как обычно, до встречи в следующем видео.