Что вообще может пойти не так?

MMaximilian Schwarzmüller
Computing/SoftwareBusiness NewsInternet Technology

Transcript

00:00:00OpenClaw становится частью OpenAI, и Петер Штайнбергер, создатель OpenClaw,
00:00:05присоединяется к команде OpenAI. Я думаю, это интересно для разработчиков по ряду
00:00:12причин. Это говорит нам о том, куда движется OpenAI, и несет в себе несколько
00:00:17любопытных последствий. В блоге на своем сайте Петер упомянул, что его следующая
00:00:25миссия — создать агента, которым сможет пользоваться даже его мама. Ведь сейчас для OpenClaw
00:00:32все еще требуется определенный уровень технических знаний или опыта, чтобы настроить
00:00:38и использовать его. И я бы сказал, что это даже хорошо, потому что, как я утверждал в видео
00:00:45пару недель назад, OpenClaw может быть опасен или иметь серьезные проблемы с безопасностью,
00:00:53которые многие люди, даже обладая техническими знаниями, либо не понимают, либо игнорируют.
00:01:00Или же они делают с OpenClaw не так много полезного, как рассказывают.
00:01:06Что, конечно, вполне возможно, ведь на дворе 2026 год, и это интернет. В любом случае,
00:01:12я уже делился мнением об OpenClaw, но буду время от времени к нему возвращаться. Миссия
00:01:19создания ИИ-агента, доступного каждому (предполагая, что его мама не хакер-разработчик),
00:01:27очевидно, является целью всех ИИ-компаний: OpenAI, Thoughtbreak — они все к этому стремятся.
00:01:34Конечно, иметь разработчиков в качестве клиентов с инструментами вроде Cloud Code или Codex — это
00:01:41прекрасно, но рынок за пределами этой ниши гораздо масштабнее. И конечная цель этих компаний —
00:01:47дойти до точки, где ИИ-агенты делают всё, и мы, по сути, сможем заменить людей. Сначала в цифровой
00:01:56среде, а затем, с помощью робототехники, повсюду. Я не буду рассуждать, случится ли это скоро.
00:02:04Я уже высказывал свое мнение во многих видео: я не вижу замены даже разработчиков в ближайшее время,
00:02:11не говоря уже о людях в целом. И я не считаю это благой целью. Но это,
00:02:18конечно, совсем другая история. Что здесь интересно, так это слова Сэма Альтмана о том, что
00:02:27с приходом Петера Штайнбергера в OpenAI они ожидают, что OpenClaw быстро станет
00:02:35ядром их продуктовой линейки. То есть ИИ-агент вроде OpenClaw. Он также упомянул,
00:02:42что OpenClaw останется в фонде как проект с открытым исходным кодом, который OpenAI продолжит
00:02:48поддерживать. Будущее будет крайне мультиагентным, и им важно поддерживать open source
00:02:54как часть этого процесса. Из этого заявления я четко считываю, что OpenAI
00:03:01построит собственное агентское решение на базе OpenClaw, используя их наработки или даже часть
00:03:09кодовой базы. Так что OpenClaw останется открытым, и они будут его поддерживать,” — возможно,
00:03:16так же, как они продолжают «оставаться открытыми». Не знаю. Но они точно создадут
00:03:22агента на основе опыта OpenClaw, который, как я понимаю, скорее всего не будет
00:03:29бесплатным, а станет платным предложением, что вполне логично с точки зрения бизнеса.
00:03:34В своем видео я выражал опасения по поводу безопасности OpenClaw. И мои главные
00:03:44опасения связаны не с уязвимостями в коде — их можно исправить со временем,
00:03:50особенно когда за спиной такая компания, как OpenAI. Это не самая большая проблема.
00:03:58Больше всего в OpenClaw меня беспокоили и беспокоят промпт-инъекции. Это проблема
00:04:08номер один для всех подобных агентов. И это фундаментальный недостаток больших языковых моделей.
00:04:16Кодинг-агенты — отличные помощники. Они часто ошибаются, их нужно направлять. И
00:04:25когда мне говорят, что они уже могут писать софт «под ключ», мне очень хочется
00:04:31взглянуть на этот софт, потому что мой опыт говорит об обратном. Но в руках
00:04:37опытного разработчика такие агенты действительно могут дать огромный прирост продуктивности.
00:04:44Таков мой опыт и мое мнение о них. Но важно понимать: они еще очень далеки
00:04:50от замены программистов. И, конечно, написание кода — идеальная задача для этих моделей,
00:04:58потому что это работа по принципу «текст на входе — текст на выходе». И большая часть контекста,” —
00:05:04пусть и не вся, находится прямо в кодовой базе, доступной для модели. И в этом
00:05:10огромное отличие от многих других задач в мире, в том числе в цифровом. Но
00:05:16говорим ли мы о кодинг-агентах или об агентах вроде OpenClaw, промпт-инъекции остаются
00:05:22серьезной бедой. Инъекция может быть очень тонкой или неожиданной. Конечно,
00:05:30можно сказать, что вы сами пишете промпты для OpenClaw или агента, но как только
00:05:37ваш агент заходит на сайт или, как в случае с OpenClaw, читает электронную почту,
00:05:44весь этот текст попадает в новый промпт. И вот вам готовый вектор атаки через инъекцию.
00:05:51У кодинг-агентов есть преимущество: во-первых, их стоит запускать в «песочнице», а
00:05:58во-вторых, у них обычно нет широкого доступа к вашей почте и ко всей вашей цифровой жизни.
00:06:05И вы, как разработчик, должны следить за тем, что делает агент. Обычно вам нужно
00:06:13давать или отклонять разрешения. Он постоянно спрашивает, можно ли сделать то или иное.
00:06:18Конечно, можно включить «опасный режим». И если вы используете песочницу, вы,
00:06:24возможно, защищены от удаления данных с диска, но вы все равно вступаете на зыбкую почву
00:06:32в плане инъекций, если совсем не проверяете действия своего кодинг-агента. И все же,
00:06:39главное отличие от OpenClaw в том, что у кодинг-агента нет доступа ко всей
00:06:45вашей жизни. Идея OpenClaw, напротив, заключается в создании агента, которым сможет
00:06:49пользоваться даже мама Петера. Идея в том, что у вас есть помощник, способный на всё.
00:06:57Вы просто пишете: «Эй, проверь почту и набросай ответы». Естественно, для этого
00:07:03ему нужен доступ к аккаунту. А если доступ есть, он может отправлять письма. И речь
00:07:09не только о том, что он может начать кого-то оскорблять (что само по себе плохо),
00:07:14но он может украсть данные. Он может изучить вашу систему, собрать информацию
00:07:19и отправить её по почте злоумышленнику из-за той самой промпт-инъекции. Это
00:07:24гигантская брешь в безопасности, о которой я говорил и которая никуда не делась.
00:07:30И что важно: она сохранится, даже когда за проектом будет стоять OpenAI. Можно ли
00:07:35это решить? Насколько я понимаю принцип работы больших языковых моделей, это
00:07:42невозможно в общем виде. Помочь может только старая концепция «нулевого доверия»
00:07:48(Zero Trust). Идея в том, что вы запускаете агента в среде, где вы не доверяете ни одному
00:07:54его действию, ограничиваете его возможности и должны явно подтверждать каждое
00:08:02разрешение. Например, в случае с отправкой писем вы можете создать среду,
00:08:10где он обязан спрашивать разрешение на каждое письмо, а вы должны его проверить
00:08:14и одобрить. Но такая среда, которая постоянно переспрашивает и ограничивает вас,” —
00:08:20не совсем вяжется с философией «потрясающего агента», который делает всё за вас,
00:08:25пока вы спите. Вот почему я пока не вижу этого агентского будущего — по крайней мере,
00:08:33в ближайшее время. Посмотрим, что OpenAI сможет с этим сделать. Возможно, их
00:08:39не слишком заботит безопасность, но им придется, ведь платные клиенты вряд ли
00:08:45обрадуются утечке своих данных. Короче говоря, я все еще настроен скептически,
00:08:55хотя привлекательность агентов вроде OpenClaw очевидна. Идея круглосуточного цифрового
00:09:03помощника звучит заманчиво, и мы определенно можем к этому прийти. И пусть у меня
00:09:10пока нет задач, где это было бы жизненно необходимо (да и давать такие широкие права я не хочу),
00:09:20я прекрасно понимаю, почему OpenAI так заинтересована в этом проекте. Но также
00:09:27это может означать, что сам OpenClaw со временем сойдет на нет, а хайп утихнет
00:09:35отчасти из-за имиджа OpenAI. К тому же это очень похоже на типичное корпоративное
00:09:42заявление в духе: «Да-да, мы будем это поддерживать», а потом поддержку прекратят,
00:09:48перестанут заботиться и создадут свой закрытый продукт. Что ж, скоро увидим,
00:09:55насколько хорошим или плохим окажется этот продукт.
00:10:03OpenClaw становится частью OpenAI, и Петер Штайнбергер, создатель OpenClaw,
00:10:09присоединяется к OpenAI. И я думаю, это интересно с точки зрения разработчика по паре
00:10:14причин. Это говорит нам о том, куда движется OpenAI, и имеет несколько интересных
00:10:20последствий, я бы сказал.

Key Takeaway

Интеграция OpenClaw в OpenAI знаменует переход к эре массовых ИИ-агентов, однако фундаментальные проблемы безопасности и риск монополизации технологий ставят под сомнение успех этой инициативы для конечных пользователей.

Highlights

Присоединение Петера Штайнбергера и проекта OpenClaw к команде OpenAI в 2026 году

Амбициозная цель создания ИИ-агентов

Timeline

Слияние OpenClaw с OpenAI и новая миссия

Спикер сообщает о переходе создателя OpenClaw Петера Штайнбергера в OpenAI, что указывает на стратегический вектор развития компании. Основная цель этого партнерства заключается в создании ИИ-агента, настолько простого, чтобы им могла пользоваться даже «мама Петера». В настоящее время OpenClaw все еще требует специфических технических знаний для настройки, что автор считает оправданным барьером. Этот раздел важен, так как он задает контекст обсуждения будущего пользовательских интерфейсов ИИ. На дворе 2026 год, и доступность инструментов становится ключевым полем битвы для ИИ-гигантов.

Рынок ИИ-агентов и амбиции корпораций

Автор подчеркивает, что OpenAI и их конкуренты, такие как Thoughtbreak, стремятся выйти за пределы ниши инструментов для разработчиков. Хотя продукты вроде Cloud Code и Codex успешны, настоящий масштаб кроется в замене человеческого труда в цифровой и физической средах. Спикер выражает сомнение в том, что полная замена людей, включая программистов, произойдет в ближайшее время. Он не считает такую тотальную автоматизацию благой целью для общества. Данный сегмент раскрывает философские и экономические разногласия между разработчиками и корпорациями.

Будущее OpenClaw в экосистеме OpenAI

В этой части обсуждаются слова Сэма Альтмана о том, что OpenClaw станет ядром продуктовой линейки OpenAI. Несмотря на обещания сохранить проект в open source, автор выражает скепсис, проводя параллели с прошлыми заявлениями компании. Скорее всего, OpenAI создаст на базе наработок Штайнбергера собственное платное решение для широкого рынка. Мультиагентное будущее требует поддержки открытого кода, но коммерческие интересы могут взять верх. Это критически важный момент для понимания того, как свободные проекты поглощаются крупным капиталом.

Уязвимости и проблема промпт-инъекций

Спикер переходит к техническим проблемам, называя промпт-инъекции главной угрозой для всех ИИ-агентов. Ошибки в коде можно исправить, но уязвимость LLM перед манипуляцией через входные данные является фундаментальной. Кодинг-агенты эффективны в руках профи, так как работают по принципу «текст на входе — текст на выходе» в ограниченном контексте. Однако за пределами кодинга риски возрастают многократно. Понимание этой угрозы необходимо для любого, кто планирует доверять ИИ-агентам важные задачи.

Риски доступа к персональным данным

Здесь анализируется разница между узкоспециализированными кодинг-агентами в «песочнице» и универсальными помощниками. Если агент получает доступ к почте пользователя для написания ответов, он автоматически становится вектором атаки. Злоумышленник может отправить письмо с инструкцией, которая заставит агента украсть данные или разослать спам. Автор утверждает, что такие бреши в безопасности не исчезнут даже после поглощения проекта корпорацией OpenAI. Это подчеркивает конфликт между удобством «умного помощника» и безопасностью цифровой жизни.

Концепция Zero Trust и итоги

В заключительной части спикер предлагает использовать принцип «нулевого доверия» (Zero Trust) для взаимодействия с агентами. Это подразумевает подтверждение пользователем каждого действия, что, однако, идет вразрез с идеей полной автономности ИИ. Автор остается скептиком относительно «агентского будущего» в краткосрочной перспективе из-за нерешенных вопросов конфиденциальности. Он предполагает, что хайп вокруг OpenClaw может утихнуть под крылом OpenAI, превратившись в закрытый корпоративный инструмент. В конце видео кратко резюмируются причины интереса разработчиков к этой сделке.

Community Posts

View all posts