Лучшие ИИ-модели не исправят вашу инженерную команду — Николас Арколано, Jellyfish
원제 · Better AI Models Won't Fix Your Engineering Team — Nicholas Arcolano, Jellyfish
핵심 요약
Производительность инженерной команды зависит от квалификации разработчиков и процессов в компании на 75%, тогда как выбор конкретной ИИ-модели определяет менее 1% результата.
하이라이트
Смена языковых моделей или инструментов разработки практически не влияет на пропускную способность инженеров.
Выбор конкретной модели объясняет менее 1% вариативности результатов разработчиков.
Активное использование навыков и кастомизация обвязки обеспечивают 30-процентный прирост производительности.
Почти половина рабочего времени разработчиков проходит без задействования специальных навыков для работы с ИИ.
Разница в производительности между топ-10% и нижними 10% инженеров составляет около 3,5 раз.
Около 44% лучших инженеров сохраняют свои позиции в верхнем квартиле производительности каждые полгода.
타임라인
Аналогия с гольфом и проблема выбора инструментов
Спикер начинает выступление с метафоры гольфа, где игроки часто обвиняют снаряжение в собственных неудачах. Переходя к сфере разработки, он демонстрирует графики прогресса моделей, похожие на рост дальности удара в гольфе благодаря технологиям. Однако масштабные данные компании Jellyfish опровергают прямую зависимость результатов от смены моделей.
- Сравнение эффективности ИИ-моделей с покупкой дорогих клюшек в гольфе показывает ложность надежд на технологическое исправление навыков.
- Анализ данных сотен тысяч разработчиков из 1300 компаний позволяет отслеживать реальное влияние ИИ на процессы.
- Естественный эксперимент с переходом на Grok после интеграции с Cursor показал полное отсутствие статистической связи с объемом влитых пулл-реквестов.
Статистическая карта факторов производительности
На основе выборки из 50 000 инженеров строится детальная карта факторов, влияющих на количество влитых пулл-реквестов в неделю. Инструмент и выбор модели оказываются наименее значимыми элементами. Основной вклад вносят индивидуальные особенности разработчика и внутренние процессы организации.
- Влияние самого инструмента и выбора модели составляет менее 1% в общей структуре факторов.
- Навыки и кастомизация обвязки объясняют около 3% вариативности результатов.
- Объем потребления токенов и рабочее окружение компании дают 9% и 12% соответственно.
- Личные качества каждого отдельного инженера составляют три четверти всей статистической модели.
Инструменты, навыки и объемы потребления токенов
Смена моделей от Opus до Sonnet или переход с автодополнения на агентов не меняет скорость работы инженеров. При этом внедрение навыков дает ощутимый прирост, хотя большинство разработчиков пренебрегают ими. Рост потребления токенов также наращивает продуктивность, но требует десятикратного увеличения затрат для удвоения результата.
- Переключение между семействами моделей или типами интерфейсов не приводит к статистически значимому изменению показателей.
- Около половины рабочего времени инженеры не используют специализированные навыки работы с ИИ.
- Регулярное применение навыков увеличивает пропускную способность разработчика на 30%.
- Увеличение расхода токенов повышает результаты с эффектом убывающей отдачи.
Влияние компании и индивидуального мастерства инженера
Организационная среда и внутренние процессы код-ревью существенно влияют на отдачу от ИИ. Главным фактором остается квалификация конкретного специалиста, которая доказывает свою стабильность на протяжении лет. Нарратив об уравнивании всех разработчиков с помощью ИИ опровергается данными продольного анализа рейтингов.
- Культура компании и командные процессы создают двукратную разницу в производительности между лучшими и худшими организациями.
- Индивидуальные различия между инженерами формируют разброс показателей в 3,5 раза.
- Появление ИИ не приводит к кардинальной перетасовке рейтингов продуктивности разработчиков.
- Руководители могут менять рабочее окружение и процессы в отличие от фиксированных характеристик базовых моделей.
설명
Nicholas Arcolano, head of AI and research at Jellyfish, uses data from about 50,000 engineers at 447 companies to ask how much the model really matters for AI coding output. When Cursor pushed many of its users onto Grok, merged PRs barely moved. Breaking down what drives throughput, the tool explains under 1%, skill use about 3% (heavy skill users see roughly a 30% bump), token usage about 9%, company and team about 12%, and the individual engineer most of the rest. The engineers who were top performers before AI are mostly still the top performers now. His advice for leaders: focus on the people, skills and environment you can control. Chapters: - 00:00 Intro - 00:40 A golf analogy - 02:01 Models keep getting better - 02:59 A natural experiment: the Grok switch - 04:54 What actually drives output - 07:14 The tool - 08:07 How well you use it: skills - 10:00 How much you use it: tokens - 11:23 Where you work - 12:22 You, the individual - 13:42 Is AI reshuffling the top engineers? - 14:50 What leaders can control Nicholas Arcolano, Jellyfish: https://jellyfish.co Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!