3 странных способа, которыми компании сходят с ума из-за ИИ

MMaximilian Schwarzmüller
ManagementBusiness NewsComputing/Software

Transcript

00:00:00Когда речь заходит о
00:00:02компаниях, использующих ИИ,
00:00:04мы, вероятно, находимся здесь, если говорить о нынешнем хайпе вокруг ИИ.
00:00:10Не уверен, достигли ли мы максимума, пика, но мы определенно находимся в очень высокой точке.
00:00:17Теперь, очевидно, я не исключение. Я создаю много контента об ИИ.
00:00:23У меня есть курсы по ИИ, курсы по кодекам, облачному коду и многому другому, потому что это вещь, это
00:00:31полезно, это меняет то, как мы создаем программное обеспечение.
00:00:35От этого никуда не деться.
00:00:36И я имею в виду, я очень, очень ясно дал понять, как я отношусь к
00:00:43ИИ для кодирования, и что лично я получал больше удовольствия,
00:00:47что мне нравилось писать код до появления ИИ, но что есть, то есть.
00:00:52И, конечно, ничто не мешает мне по-прежнему писать код вручную, но если вы занимаетесь серьезной
00:00:58работой по разработке, если вы создаете программное обеспечение,
00:01:01да, ИИ может сделать вас более продуктивным, и не использовать его — это обоснованный выбор,
00:01:07но в большинстве случаев, наверное, не самый правильный, если вы занимаетесь этим профессионально — по крайней мере, таково мое мнение.
00:01:15Теперь это не меняет того, что мы
00:01:20действительно находимся на пике хайпа
00:01:24по поводу ИИ в компаниях и
00:01:27может быть, мы достигнем еще больших высот, теперь, конечно, когда я говорю об ИИ в компаниях, я прекрасно понимаю, что есть
00:01:36технически не бесконечное количество компаний,
00:01:39но, конечно, есть много, много компаний по всему миру, и использование ИИ распределено неравномерно.
00:01:46И, конечно, я здесь в основном говорю о технологических, программно-ориентированных компаниях.
00:01:52Но когда мы говорим или когда мы смотрим на использование ИИ в компаниях,
00:01:58есть пара
00:02:00интересных и довольно тревожных тенденций, о которых мы должны поговорить, на которые мы должны посмотреть.
00:02:08Одна большая тенденция, которую мы наблюдали в последние пару недель или
00:02:13о которой мы слышали в последние пару недель, — это, например,
00:02:16токеновый максимизм.
00:02:19Токеновый максимизм, конечно, означает, что для некоторых компаний чем больше используется ИИ, тем лучше.
00:02:25Вот и все.
00:02:28Существуют
00:02:30компании, которые якобы имели или имеют
00:02:33внутренние таблицы лидеров, которые отслеживают, сколько
00:02:37токенов их
00:02:39разработчики программного обеспечения или сотрудники в целом тратят на ИИ, и
00:02:45ну, это немного похоже на отслеживание просто строк кода, которые вы генерируете как
00:02:52меру того, насколько хорошо вы работаете. Это, конечно, плохая мера.
00:02:57И мне, вероятно, не нужно говорить вам, что должно быть довольно очевидно, что просто трата большого количества токенов
00:03:03не является хорошим мерилом того, насколько вы продуктивны, я имею в виду, во-первых,
00:03:09это легко обмануть, вы можете просто отправлять бессмысленные подсказки ИИ или заставлять его выполнять бессмысленную
00:03:15работу, и это позволяет вам максимизировать свои токены, но даже если вы этого не делаете,
00:03:21какой разработчик, вероятно, лучше: тот, который немного подумает?
00:03:29над проблемой, которая
00:03:32анализирует результат, который ИИ дает им или предлагает, и который анализирует код,
00:03:38или вайб-кодер, который просто подсказывает и
00:03:42производит тонны токенов и вывода для некоторых компаний. Для меня это, кажется, номер два. Это определенно номер один. Я
00:03:51думаю, что магия ИИ и то, где вы действительно можете получить много пользы от него
00:03:58прямо сейчас, — это если вы объедините свой опыт с преимуществами ИИ,
00:04:05которые, конечно, заключаются в том, что вы можете двигаться быстро, что у вас есть бесконечно терпеливый
00:04:10ментор, у которого вы можете задавать вопросы, что вы можете как бы объединить два мозга, хотя
00:04:16вам действительно стоит больше доверять своему мозгу в большинстве ситуаций.
00:04:20Да, вы можете получить преимущества от ИИ, но токеновый максимизм — это, вероятно, не то, но это тенденция, которую мы
00:04:28видим, о которой мы слышали в некоторых компаниях.
00:04:31Конечно, теперь, когда это стало достоянием общественности, некоторые из этих компаний, например, Meta, уже объявили, что они как бы
00:04:37избавляются от этой таблицы лидеров или от этого сильного стимула максимизировать токены.
00:04:43Но это все еще существует для некоторых компаний, как кажется. Другая
00:04:48тенденция, которую я видел все больше и больше за последнюю неделю, заключается в том, что есть компании, такие как
00:04:55McKinsey,
00:04:56которые очень любят
00:04:59продвигать нарратив об ИИ-агентах как о сотрудниках.
00:05:04Итак, генеральный директор McKinsey здесь сказал, что у них будет 60 000 сотрудников. Мы,
00:05:0925 000 из них — это ИИ-агенты, и только около 40 000 — люди.
00:05:15Так что ИИ-агенты в качестве рабочей силы — это то, что я также видел кое-где, и да,
00:05:22конечно, это один из способов взглянуть на это, полагаю,
00:05:26но опять же, я
00:05:29не знаю. Я имею в виду, во-первых, прямо сейчас
00:05:32мы находимся в тот момент времени, когда большинство ИИ-агентов довольно
00:05:38специализированы в том, что они могут делать. В то время как люди, как правило, более
00:05:44универсальны в том, что они могут делать и чему их можно научить.
00:05:48Так что я не уверен, имеет ли смысл такое сравнение. Я имею в виду, кто бы мог подумать
00:05:55называть ваш скрипт резервного копирования
00:05:58сотрудником, который, возможно, у вас уже был в 2018 году, верно? Итак, у нас была автоматизация,
00:06:03у нас были рабочие процессы до ИИ, и это имеет большой смысл.
00:06:08Очевидно, у нас есть автоматизированные процессы развертывания, процессы резервного копирования, веб-скрейперы, процессы анализа данных,
00:06:15у нас есть все виды автоматизации, и они у нас есть 10, 20 лет или дольше,
00:06:20но теперь это ИИ-агенты, которых мы называем частью рабочей силы, и
00:06:26не поймите меня неправильно. Вы можете делать полезные вещи с ИИ-агентами.
00:06:31Я лично не полностью поддерживаю хайп вокруг Open Claw, потому что я лично
00:06:36все еще не могу получить много полезного
00:06:41использования от него. Я не нашел тех случаев использования, которые действительно кажутся мне волшебными, когда дело доходит до Open Claw.
00:06:49Но я использую Cloud Code и кодеки для кодирования, но также и для большего.
00:06:55Я использую PI-агента, который является открытым исходным кодом,
00:07:00независимым ИИ-агентом, который вы можете, например, использовать с вашей подпиской на Chat GPT.
00:07:05Я использую его для выполнения всяких штук на моей машине или на моем VPS, чтобы он анализировал файлы логов.
00:07:12Является ли это сотрудником? Я не так уверен, хотя.
00:07:16Это полезный инструмент, конечно.
00:07:19И я бы даже не знал, как это посчитать, если у меня есть два сотрудника, и каждый из них использует этого агента,
00:07:25являются ли они тогда двумя дополнительными сотрудниками, или агент все еще остается просто одним сотрудником, используемым несколькими другими сотрудниками?
00:07:34Я не знаю. Но да, это то, что вы также видите кое-где, и, очевидно, здесь замешано много маркетинга,
00:07:41очевидно, вы хотите быть компанией, которая знает, как делать ИИ, и которая находится на
00:07:48передовой получения максимума от ИИ, и, очевидно, это нарратив, который принес бы пользу консалтинговой компании, такой как
00:07:55McKinsey, так что я понимаю, откуда они исходят. Но это, да, это странная тенденция. Скажу точно.
00:08:03Еще одна
00:08:05интересная тенденция, которую я видел, как-то связана с токеновым максимизмом. Я полагаю, это
00:08:11мандатное использование сейчас. Однако я не имею в виду, что вы обязаны использовать ИИ как можно больше,
00:08:19но вы вынуждены его использовать.
00:08:23Часто или в некоторых случаях также специфические модели или агенты,
00:08:29так что это то, что идет рука об руку с этим мандатным использованием в некоторых компаниях, по крайней мере, и
00:08:37это момент, который я понимаю до некоторой степени, потому что я
00:08:41понимаю, что как компания вы хотите убедиться, что ваши сотрудники
00:08:47экспериментируют с этой новой технологией и пытаются выяснить, где она полезна, потому что я
00:08:53думаю, что есть приличное
00:08:55количество людей, которые
00:08:57использовали Chat GPT, бесплатную версию, пару месяцев назад или что-то в этом роде,
00:09:04или они используют его кое-где, и это нормально, но он не кажется супер впечатляющим, и
00:09:10особенно среди обычных людей, которые не находятся в этом технологическом пузыре, доля людей,
00:09:17которые находятся в этой корзине, которые не регулярно используют передовые модели, очень вероятно,
00:09:24очень, очень высока, поэтому я понимаю, почему компании хотят стимулировать или подталкивать вас к
00:09:30активному использованию ИИ, попробовать его использовать в своей повседневной работе, и
00:09:35это работает лучше всего, конечно, если вы затем также получаете доступ к более способным моделям.
00:09:43Я имею в виду, если я заставлю вас работать с ИИ-моделью, которой два года, у которой нет никаких дополнительных
00:09:48возможностей, потому что она не запущена ни в какой упряжи, которая дала бы ей эти возможности,
00:09:53это было бы довольно бессмысленно.
00:09:55Но я понимаю, почему компании хотят, чтобы сотрудники играли с ИИ сейчас, само собой разумеется, некоторые компании
00:10:03определенно заходят слишком далеко, и нет смысла
00:10:08заставлять сотрудников делать все с помощью ИИ, и я думаю, вам также следует
00:10:13пытаться доверять своим сотрудникам, когда они говорят вам, что определенная задача не может быть выполнена с помощью ИИ, или по крайней мере
00:10:20не может быть сделана лучше с помощью ИИ. Но, конечно, я понимаю,
00:10:24что компании могут также сомневаться, действительно ли сотрудники взаимодействовали с ИИ, и легко дать отпор
00:10:32против новой технологии, очевидно, также потому, что многие люди боятся, и как бы вы не боялись, с Дарио Амодеи, по сути,
00:10:40ходящим на ток-шоу или интервью каждую неделю, говорящим людям, что подавляющее большинство
00:10:45белых воротничков потеряют свою работу. Я понимаю, многие люди боятся, поэтому легко дать отпор ИИ.
00:10:53Но я говорил это раньше в других эпизодах, и я твердо верю в это:
00:10:57единственный способ справиться с этой новой технологией,
00:11:01как и со всеми новыми технологиями в прошлом, — это действительно
00:11:07принять ее и попытаться получить от нее максимум. Это не значит, что вы хотите слепо доверять ей.
00:11:13Это также не значит, что вы хотите использовать ее для всего,
00:11:16но это значит, что вы должны
00:11:19серьезно попытаться использовать ее, чтобы увидеть, где она может помочь вам, что вы хотите довести ее до пределов, и особенно с ИИ,
00:11:25где все меняется так быстро все время,
00:11:28вы действительно также хотите переоценивать
00:11:32регулярно, каждые несколько месяцев или около того, потому что вещи меняются, модели меняются, но, что более важно,
00:11:38и я говорил это в других эпизодах тоже, но что более важно, упряжи, инструменты вокруг этих моделей также эволюционируют, агенты,
00:11:46агентные упряжи, в которых эти модели работают, скажем так, они также эволюционируют, и поэтому это
00:11:54весьма вероятно, или это возможно, что вы можете сделать что-то сегодня с ИИ, чего вы не могли сделать пару месяцев назад,
00:12:00поэтому я понимаю это, но, конечно, ясно, что некоторые компании заходят в этом слишком далеко и
00:12:06заставляют сотрудников делать что-то с ИИ, что просто не работает с ИИ, или где вы более эффективны без ИИ,
00:12:14конечно, это своего рода
00:12:16перелет цели стимулирования рабочей силы использовать ИИ, но да, вот где мы находимся.
00:12:18Вот где мы находимся.
00:12:24Это странное состояние, в котором мы находимся прямо сейчас. И я не был частью более ранних
00:12:30технологических революций, через которые мы прошли в прошлом.
00:12:33Я имею в виду, конечно, Интернет, массовое внедрение Интернета произошло, пока я был жив,
00:12:40но я был ребенком тогда, когда Интернет стал чем-то значимым. Так что я не был частью рабочей силы.
00:12:48Весьма вероятно, довольно нормально для вещей быть грубыми и странными, когда происходит такой
00:12:55переход или эволюция, конечно, с ИИ,
00:12:58это, вероятно, особенно грубо, потому что все идет так быстро, и
00:13:03из-за того, что все идет так быстро, и того, как это работает, и того, что люди вроде Дарио говорят вам все время,
00:13:10это также супер пугающе. Так что да,
00:13:14все эти вещи вместе. Имеет большой смысл, что вещи очень, очень странные.
00:13:20И опять же, как я упоминал раньше,
00:13:22для меня
00:13:24определенно — я получал больше радости в части кодирования, до того как ИИ стал чем-то значимым. Но мы здесь, и
00:13:31да, определенно прямо сейчас многие компании здесь, и мы увидим, продолжим ли мы так же или найдем более
00:13:40осмысленный, разумный путь вперед, где мы сможем действительно попытаться получить максимум от ИИ, вместо того чтобы просто использовать
00:13:47максимум ИИ
00:13:49без части использования.

Key Takeaway

Компании ошибочно пытаются измерить эффективность внедрения ИИ через количество токенов или количество «агентов-сотрудников», игнорируя реальную целесообразность инструментов для выполнения конкретных задач.

Highlights

Компании внедряют токеновый максимизм, ошибочно используя объем затраченных токенов ИИ как показатель производительности сотрудников.

Некоторые корпорации, включая McKinsey, продвигают концепцию ИИ-агентов как полноценных членов штата, планируя десятки тысяч таких «сотрудников».

Обязательное использование ИИ часто приводит к снижению эффективности, так как сотрудники вынуждены применять инструменты там, где они не приносят реальной пользы.

Успешное применение ИИ заключается в синергии человеческого опыта и возможностей модели, а не в слепом наращивании объемов генерации.

Технологическая сфера находится на пике хайпа, что провоцирует компании на странные и зачастую нерациональные управленческие решения.

Timeline

Токеновый максимизм как ошибочная метрика

  • Компании используют внутренние таблицы лидеров для отслеживания потребления токенов ИИ сотрудниками.
  • Максимизация токенов не коррелирует с качеством программного обеспечения или продуктивностью разработки.
  • Такой подход легко поддается манипуляциям через отправку бессмысленных промптов.

Попытки измерить эффективность труда разработчика количеством сгенерированных токенов напоминают неэффективную практику оценки работы по количеству строк кода. Качественная работа требует от инженера анализа предложений ИИ, тогда как погоня за токенами поощряет поверхностное использование инструментов. Ряд компаний, например Meta, уже начали отказываться от подобных систем стимулирования.

ИИ-агенты в качестве рабочей силы

  • Консалтинговые компании продвигают нарратив о включении ИИ-агентов в штат наравне с людьми.
  • ИИ-агенты остаются специализированными инструментами, в то время как люди обладают универсальными навыками.
  • Существует путаница между классической автоматизацией процессов и маркетинговым брендированием систем как «ИИ-сотрудников».

Приравнивание скриптов автоматизации или инструментов анализа данных к сотрудникам является маркетинговым ходом. McKinsey открыто заявляет о планах по использованию тысяч ИИ-агентов в штате. Однако на практике ИИ-инструменты пока не способны полноценно заменить универсальные когнитивные способности человека в широком спектре задач.

Мандатное использование и реальная польза

  • Компании вводят обязательное использование ИИ, чтобы стимулировать адаптацию персонала к новым технологиям.
  • Использование ИИ оправдано только при доступе к современным, способным моделям в соответствующей технической среде.
  • Для достижения прогресса необходимо регулярно переоценивать границы возможного, так как инструменты и упряжи ИИ развиваются каждые несколько месяцев.

Принуждение сотрудников к использованию ИИ во всех процессах часто контрпродуктивно. Компании стремятся преодолеть страх персонала перед переменами и опасения потери рабочих мест. Единственный эффективный путь — поиск реальных точек применения технологии, где она действительно повышает производительность, а не создает дополнительный балласт.

Community Posts

View all posts