Bessere KI-Modelle lösen die Probleme deines Engineering-Teams nicht — Nicholas Arcolano, Jellyfish
원제 · Better AI Models Won't Fix Your Engineering Team — Nicholas Arcolano, Jellyfish
핵심 요약
Die Modellwahl beeinflusst die Softwareentwicklung kaum, während das individuelle Können, die Tool-Nutzung und die Teamkultur den tatsächlichen Output bestimmen.
하이라이트
Das Wechseln von KI-Modellen wie Grok, Claude oder ChatGPT verändert den PR-Durchsatz von Ingenieuren statistisch kaum.
Das Tool und die Modellwahl machen weniger als ein Prozent der Varianz im Entwickleroutput aus.
Eine hohe Skill-Nutzung steigert den Output um etwa 30 Prozent bei konstanten Rahmenbedingungen.
Der Token-Verbrauch hat einen zehnfachen Einfluss im Vergleich zum reinen Toolwechsel auf die Produktivität.
Das Arbeitsumfeld und das Team machen rund 12 Prozent der Produktivitätsunterschiede aus.
Der größte einzelne Faktor für den Output ist das individuelle Können des Ingenieurs selbst.
Top-Entwickler bleiben auch nach dem Einsatz von KI die produktivsten Ingenieure des Teams.
타임라인
Der Irrglaube an bessere Modelle
Vergleichbar mit Golfspielern, die sich bessere Schläger statt eines besseren Trainers wünschen, setzen viele Ingenieure auf neue Modelle. Daten von Hunderttausenden Entwicklern bei Jellyfish belegen jedoch, dass ein erzwungener oder plötzlicher Modellwechsel den tatsächlichen Output der Ingenieure nicht verändert.
- Die Modellleistung verbessert sich stetig über die Zeit.
- Ein natürliches Experiment bei SpaceX zeigte keinen Anstieg der gemergten PRs nach dem Wechsel zu Grok.
- Der Modellwechsel hat statistisch keinen nennenswerten Einfluss auf den Code-Durchsatz.
Die wahren Hebel der Produktivität
Statistische Analysen von 50.000 Ingenieuren zeigen eine klare Rangfolge der Einflussfaktoren. Während das Modell kaum ins Gewicht fällt, sorgt eine intensive und korrekte Nutzung von Skills für messbare Produktivitätssteigerungen von bis zu 30 Prozent.
- Das Tool selbst macht weniger als ein Prozent der Output-Varianz aus.
- Spezifische Skills und Cursor-Regeln steigern die Leistung um etwa drei Prozent.
- Der Token-Verbrauch erklärt rund neun Prozent des Durchsatzes.
Organisation und das Individuum
Die Kultur, die Codebase und die Unternehmensprozesse schaffen eine zweifache Streuung zwischen Top- und Flop-Unternehmen. Dennoch bleibt der einzelne Entwickler der wichtigste Faktor, wobei etablierte Top-Ingenieure auch im KI-Zeitalter ihre Spitzenpositionen behaupten.
- Das Team und das Unternehmen machen etwa 12 Prozent der Leistungsstreuung aus.
- Der Großteil der Varianz liegt im individuellen Können des Entwicklers.
- KI verändert die Rangliste der besten Ingenieure nicht grundlegend.
설명
Nicholas Arcolano, head of AI and research at Jellyfish, uses data from about 50,000 engineers at 447 companies to ask how much the model really matters for AI coding output. When Cursor pushed many of its users onto Grok, merged PRs barely moved. Breaking down what drives throughput, the tool explains under 1%, skill use about 3% (heavy skill users see roughly a 30% bump), token usage about 9%, company and team about 12%, and the individual engineer most of the rest. The engineers who were top performers before AI are mostly still the top performers now. His advice for leaders: focus on the people, skills and environment you can control. Chapters: - 00:00 Intro - 00:40 A golf analogy - 02:01 Models keep getting better - 02:59 A natural experiment: the Grok switch - 04:54 What actually drives output - 07:14 The tool - 08:07 How well you use it: skills - 10:00 How much you use it: tokens - 11:23 Where you work - 12:22 You, the individual - 13:42 Is AI reshuffling the top engineers? - 14:50 What leaders can control Nicholas Arcolano, Jellyfish: https://jellyfish.co Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!