बेहतर AI मॉडल आपकी इंजीनियरिंग टीम को ठीक नहीं करेंगे — निकोलस अर्कोलानो, जेलीफिश
원제 · Better AI Models Won't Fix Your Engineering Team — Nicholas Arcolano, Jellyfish
핵심 요약
इंजीनियरिंग टीम के परिणाम बेहतर करने के लिए नए एआई मॉडल या टूल बदलने की तुलना में कौशल के उपयोग और कार्य संस्कृति को सुधारना अधिक प्रभावी होता है.
하이라이트
कर्सर और क्लाउड कोड उपयोगकर्ताओं के 50,000 इंजीनियरों के डेटासेट से पता चलता है कि एआई मॉडल बदलने से मर्ज किए गए पीआर (PR) थ्रूपुट पर कोई सांख्यिकीय प्रभाव नहीं पड़ता है.
इंजीनियरिंग उत्पादकता में टूल का योगदान 1% से भी कम है, जबकि व्यक्तिगत इंजीनियर और कार्य वातावरण सबसे बड़े कारक हैं.
प्रति सप्ताह 30 से अधिक बार कौशल का उपयोग करने से अन्य कारकों को स्थिर रखते हुए पीआर थ्रूपुट में 30% की वृद्धि होती है.
शीर्ष 10% और औसत डेवलपर्स के बीच टोकन खपत में 10 गुना अंतर होने पर आउटपुट लगभग दोगुना हो जाता है, जिससे रिटर्न में कमी का नियम दिखाई देता है.
एआई आने के बाद भी पदानुक्रम में कोई बड़ा बदलाव नहीं आया है; जो इंजीनियर एआई से पहले शीर्ष पर थे, वे अब भी शीर्ष पर बने हुए हैं.
타임라인
गोल्फ़ एनालॉजी और मॉडल फ्रंटियर की प्रगति
वक्ता ने गोल्फ़ का उदाहरण देते हुए बताया कि लोग अक्सर समस्याओं के लिए उपकरणों (क्लब या एआई मॉडल) को दोषी ठहराते हैं। हालांकि 1980 के बाद गोल्फ़ की तकनीक में सुधार से दूरी बढ़ी है, वैसे ही एआई मॉडल भी लगातार उन्नत हो रहे हैं। इसके बावजूद, केवल बेहतर मॉडल होने मात्र से हर समस्या का समाधान नहीं होता है।
- गोल्फ़ में बेहतर क्लबों की तरह, तकनीकी प्रगति के साथ एआई मॉडल लगातार बेहतर हो रहे हैं.
- 1980 से गोल्फ़ में औसत ड्राइविंग दूरी में 20% की वृद्धि तकनीकी बदलावों के कारण हुई थी.
- आर्टिफिशियल एनालिसिस के चार्ट से यह साबित होता है कि एआई मॉडल पिछले वर्षों की तुलना में अधिक सक्षम हो गए हैं.
मॉडल बदलने का उत्पादकता पर प्रभाव
जेलीफिश के आंकड़ों के अनुसार, जब उपयोगकर्ताओं को किसी विशेष मॉडल (जैसे ग्रोक) की ओर मोड़ा गया, तो एक प्राकृतिक प्रयोग का अवसर मिला। इस बदलाव के बावजूद, इंजीनियरों के आउटपुट या पीआर थ्रूपुट पर कोई सार्थक सकारात्मक प्रभाव नहीं देखा गया। इससे यह सवाल उठा कि क्या वास्तव में मॉडल का बदलना ही मुख्य चालक है।
- जेलीफिश लाखों डेवलपर्स और 1300 कंपनियों के इंजीनियरिंग वर्कफ़्लो डेटा को ट्रैक करती है.
- स्पेसएक्स द्वारा कर्सर के अधिग्रहण के बाद ग्रोक के उपयोग में भारी उछाल आया था.
- विभिन्न मॉडलों या ग्रोक की ओर स्विच करने से प्रति इंजीनियर मर्ज किए गए पीआर थ्रूपुट में कोई सांख्यिकीय बदलाव नहीं आया.
उत्पादकता को प्रभावित करने वाले वास्तविक कारक
विश्लेषण में यह सामने आया कि टूल और मॉडल चयन का असर बहुत कम (लगभग 1%) होता है। इसके मुकाबले, कौशल का सही उपयोग, टोकन की कुल खपत (उपभोग), और सबसे बढ़कर काम करने का माहौल या कंपनी की संस्कृति इंजीनियरों के प्रदर्शन को तय करने में बड़ी भूमिका निभाते हैं।
- 447 कंपनियों के 50,000 इंजीनियरों के डेटा से यह विश्लेषण किया गया कि कौन से कारक सबसे अधिक मायने रखते हैं.
- टूल और कौशल का उपयोग क्रमशः 1% और 3% प्रभाव डालते हैं, जबकि टोकन खपत का योगदान 9% है.
- काम करने का वातावरण और कंपनी की संस्कृति उत्पादकता का 12% हिस्सा तय करते हैं.
व्यक्तिगत प्रदर्शन और निष्कर्ष
उत्पादकता में सबसे बड़ा अंतर व्यक्तिगत इंजीनियरों की क्षमताओं के कारण आता है। एआई ने शीर्ष कलाकारों के क्रम को पूरी तरह नहीं बदला है। चूंकि फाउंडेशन मॉडल और टूल पर सीधा नियंत्रण नहीं होता है, इसलिए इंजीनियरिंग लीडर्स को अपनी टीम के कौशल, संस्कृति और कार्य वातावरण को सुधारने पर ध्यान केंद्रित करना चाहिए।
- सांख्यिकीय मॉडल में सबसे बड़ा कारक खुद व्यक्ति यानी इंजीनियर की अपनी क्षमता है.
- एआई आने के बाद भी शीर्ष इंजीनियर अपनी स्थिति बनाए रखते हैं और कोई बड़ा पुनर्गठन नहीं हुआ है.
- लीडर के रूप में मॉडल बदलने के बजाय संगठन और लोगों की कार्यप्रणाली पर ध्यान देना अधिक प्रभावी है.
설명
Nicholas Arcolano, head of AI and research at Jellyfish, uses data from about 50,000 engineers at 447 companies to ask how much the model really matters for AI coding output. When Cursor pushed many of its users onto Grok, merged PRs barely moved. Breaking down what drives throughput, the tool explains under 1%, skill use about 3% (heavy skill users see roughly a 30% bump), token usage about 9%, company and team about 12%, and the individual engineer most of the rest. The engineers who were top performers before AI are mostly still the top performers now. His advice for leaders: focus on the people, skills and environment you can control. Chapters: - 00:00 Intro - 00:40 A golf analogy - 02:01 Models keep getting better - 02:59 A natural experiment: the Grok switch - 04:54 What actually drives output - 07:14 The tool - 08:07 How well you use it: skills - 10:00 How much you use it: tokens - 11:23 Where you work - 12:22 You, the individual - 13:42 Is AI reshuffling the top engineers? - 14:50 What leaders can control Nicholas Arcolano, Jellyfish: https://jellyfish.co Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!