पाइनकोन 2.0 — एदो लिबर्टी, पाइनकोन

AAI Engineer
Computing/SoftwareInternet Technology

Transcript

00:00:00इंटरफ़ेस... मैं ऐसे कई सारे शानदार विचारों के बारे में बताना चाहता हूँ जो इसे काम में लाते हैं,
00:00:06लेकिन मैं आपको उनमें से सिर्फ एक के बारे में बताना चाहता हूँ, ठीक है? जो आप देख रहे हैं
00:00:11वह Nexus का इंटरफ़ेस है। ठीक है, आपको सबसे ऊपर एक सवाल दिखाई देगा जो
00:00:17एजेंट ने पूछा था, और बाईं ओर आपको वे अलग-अलग कदम दिखाई देंगे
00:00:23जिनसे होकर वह गुज़रा। ठीक है, नीचे दाईं ओर जो दिख रहा है वह शायद सबसे दिलचस्प है,
00:00:28आपको नीचे दाईं ओर जेनरेट किया गया कोड दिखता है। Nexus जो करता है वह बाकी
00:00:34सिस्टम्स से बहुत अलग है, इसे हम रनटाइम कोडिंग एजेंट कहते हैं। ठीक है,
00:00:40उन दूसरे कोडिंग सिस्टम्स के विपरीत जिनके आप आदी हैं, जहाँ काम एक बड़े कोड बेस को लेना
00:00:49और फिर उसे एडिट करने में मेरी मदद करना होता है, सही है? लेकिन जब एडिटिंग पूरी हो जाती है, तो मेरे पास जो बचता है वह
00:00:55एक सॉफ्टवेयर होता है और उसे डिप्लॉय किया जाता है, वही मुख्य उत्पाद होता है। ठीक है, जो चल रहा है
00:01:00उसमें अब मॉडल नहीं रहता, वह सिर्फ कोड होता है। ठीक है, यहाँ ऐसा नहीं
00:01:05हो रहा है। क्वेरी के समय, आपको इंजन के बारे में सोचना चाहिए कि वह मूल रूप से
00:01:10Jupyter नोटबुक जैसा कुछ, या Python रिपॉजिटरी जैसा कुछ बना रहा है, सही है?
00:01:16और वे सचमुच कोड लिखते हैं और उसे एग्जीक्यूट करते हैं, फिर कोड लिखते हैं और एग्जीक्यूट करते हैं। और अगर उन्हें
00:01:20जवाब मिल जाता है, तो वे जानते हैं कि आगे क्या करना है। और अगर, आप जानते हैं, अगर वह वैसा नहीं है
00:01:24जैसी उन्हें उम्मीद थी, तो वे कोड के उस हिस्से को दोबारा लिखते हैं। और अंत में आपको जो मिलता है वह
00:01:30कोड का एक टुकड़ा होता है जो काम को पूरा करता है, जो वह जानकारी हासिल करता है जो आप
00:01:36पाना चाहते हैं। ठीक है, इसे सेव किया जा सकता है, इसे दोबारा चलाया जा सकता है। ठीक है, लेकिन यह बेहद लचीला भी है,
00:01:42क्योंकि अब जवाब डेटाबेस में क्वेरी करने से नहीं मिलता, यह सही है, यह
00:01:50कोड द्वारा लिखा जाता है जो निश्चित रूप से बेहद लचीला है। ठीक है, वैसे वह कोड
00:01:57दिलचस्प बात यह है कि, अगर आप इसे बदलते हैं, अगर आप इस तरह सॉफ्टवेयर लिखते हैं, तो जितने
00:02:05प्रॉम्प्टिंग की आपको ज़रूरत होती है वह काफी कम हो जाती है। हम लगभग
00:02:08150,000 टोकन से घटकर, जो हम अपने एजेंटों को वे सभी
00:02:12टूल प्रदान करने के लिए देते थे जिनकी उन्हें ज़रूरत थी, 1,000 से भी कम टोकन पर आ गए हैं,
00:02:16उन सभी इंटरफेस को निर्दिष्ट करने के लिए जो Nexus से जानकारी प्राप्त करने के लिए चाहिए। ठीक है, और इसलिए इसका जवाब, जब आप
00:02:23इसे चलाते हैं तो यह कैसा दिखता है, वह इस प्रकार है। ठीक है, तो बाईं ओर बेशक आप
00:02:29Nexus को बिना QL के सवाल का जवाब देते हुए देखेंगे, और फिर दाईं ओर वही काम है
00:02:38जो एक एजेंट को उस काम को पूरा करने के लिए सभी टूल देकर दिया गया है। ठीक है, लेकिन यह याद रखें
00:02:43दाहिने तरफ वाला काफी सीमित (असमर्थ) है। यह नौकरी के पहले दिन वाले उस कर्मचारी की तरह है
00:02:48जिसे बहुत कुछ पढ़ना पड़ता है, यह समझना पड़ता है कि डेटा कहाँ है,
00:02:51यह समझना पड़ता है कि काम क्या है, बहुत सारा कोड लिखना पड़ता है। यह
00:02:55बस बहुत ही सीमित है। और यह, मुझे नहीं पता कि आप... ठीक है, यह रुक गया, लेकिन
00:03:02कहने की ज़रूरत नहीं है कि यह कहीं अधिक धीमा है, यह टोकन की खपत के मामले में
00:03:08काफ़ी महँगा है। लेकिन दिलचस्प बात यह है कि यह बहुत ही
00:03:12कम सटीक भी है, क्योंकि फिर से, उनके पास सही संदर्भ, सही उद्देश्य नहीं होते और
00:03:17इसी तरह आपकी कंपनी में। मैं बस इतना कहूँगा कि हम ज़ाहिर तौर पर कई
00:03:25अर्ली एक्सेस ग्राहकों के साथ पहले से ही काम कर रहे हैं, आप यहाँ कुछ नतीजे देख सकते हैं, लेकिन मैं संक्षेप में
00:03:30उनके बारे में बताते हुए कहूँगा कि अलग-अलग डोमेन में, अलग-अलग
00:03:35एंटरप्राइज़ में, अलग-अलग तरह के कामों में, आप सर्वव्यापी रूप से एक ही चीज़
00:03:40देखेंगे कि अगर आप इस मॉडल पर शिफ्ट होते हैं, तो आपको लागत में भारी बचत मिलती है, 77 से 90
00:03:50प्रतिशत तक टोकन की कमी काफी आम है, और यह बहुत
00:03:58ज़्यादा तेज़ हो जाता है, 20-30 प्रतिशत से लेकर कभी-कभी 77 प्रतिशत तक तेज़, ठीक है? और
00:04:07सबसे महत्वपूर्ण बात यह है कि यह एक ही समय में वास्तव में बहुत अधिक सटीक
00:04:11भी हो जाता है। तो यह सचमुच एक बड़ी सफलता है। मैं बस यह कहकर अपनी बात समाप्त करूँगा कि
00:04:20Nexus अर्ली एक्सेस से निकलकर कल ही पब्लिक प्रिव्यू में आ रहा है, तो जाकर इसे ज़रूर आज़माएँ।
00:04:50धन्यवाद।

Key Takeaway

Nexus रनटाइम कोडिंग एजेंट के रूप में dynamic कोड लिखकर और निष्पादित करके टोकन खपत में 90% तक की कमी और 77% तक तेज़ कार्य निष्पादन के साथ उच्च सटीकता प्रदान करता है।

Highlights

  • Nexus एक रनटाइम कोडिंग एजेंट की तरह काम करता है, जो क्वेरी के समय Python रिपॉजिटरी या Jupyter नोटबुक जैसा वातावरण बनाकर खुद कोड लिखता और निष्पादित करता है।

  • Nexus इंटरफ़ेस के उपयोग से प्रॉम्प्ट टोकन की खपत 150,000 टोकन से घटकर 1,000 टोकन से भी कम रह जाती है।

  • पारंपरिक एजेंट टूल सेट की तुलना में Nexus मॉडल पर शिफ्ट होने से 77 से 90 प्रतिशत तक टोकन लागत की बचत होती है।

  • Nexus मॉडल के उपयोग से कार्य निष्पादन की गति में 20 से 77 प्रतिशत तक का सुधार दर्ज किया गया है।

  • Nexus सिस्टम पब्लिक प्रिव्यू के रूप में उपलब्ध कराया जा रहा है।

Timeline

Nexus का रनटाइम कोडिंग आर्किटेक्चर

  • Nexus पारंपरिक कोडिंग एजेंटों से भिन्न रनटाइम कोडिंग एजेंट के रूप में कार्य करता है।
  • यह क्वेरी के दौरान Jupyter नोटबुक की तरह कोड उत्पन्न करता है, उसे चलाता है और आवश्यकतानुसार पुनर्लेखन करता है।

पारंपरिक कोडिंग मॉडल केवल मौजूदा कोडबेस को एडिट करके एक स्थिर सॉफ़्टवेयर डिप्लॉय करते हैं जिसमें मॉडल की भूमिका समाप्त हो जाती है। Nexus क्वेरी के समय ही डायनामिक रूप से कोड लिखता है और परिणाम असंतोषजनक होने पर उसे सुधारता है। डेटाबेस की सीधी क्वेरी के स्थान पर निष्पादित कोड का उपयोग अत्यधिक लचीलापन प्रदान करता है।

टोकन दक्षता और प्रदर्शन तुलना

  • Nexus आर्किटेक्चर एजेंट को दिए जाने वाले आवश्यक प्रॉम्प्ट टोकन को भारी मात्रा में घटाता है।
  • पारंपरिक एजेंटों को संपूर्ण टूलसेट देने पर टोकन लागत अधिक, गति धीमी और सटीकता कम रहती है।

एजेंट को सभी टूल प्रदान करने के पुराने तरीके में लगभग 150,000 टोकन की खपत होती थी, जबकि Nexus इंटरफ़ेस के माध्यम से यह आवश्यकता घटकर 1,000 टोकन से भी कम हो जाती है। टूल-आधारित एजेंट शुरुआती दिन के कर्मचारी की तरह डेटा और संदर्भ को समझने में अत्यधिक टोकन खर्च करते हैं, जिससे सटीकता भी प्रभावित होती है।

एंटरप्राइज़ परिणाम और पब्लिक रिलीज़

  • विभिन्न एंटरप्राइज़ डोमेन में टोकन खपत में 77 से 90 प्रतिशत तक की गिरावट आई है।
  • सिस्टम की गति 20 से 77 प्रतिशत तक बढ़ जाती है और सटीकता में महत्वपूर्ण वृद्धि होती है।

अर्ली एक्सेस ग्राहकों के आंकड़ों के अनुसार यह मॉडल लागत, गति और सटीकता तीनों मानकों पर बेहतर परिणाम प्रदान करता है। Nexus अर्ली एक्सेस चरण को पूरा करके पब्लिक प्रिव्यू चरण में प्रवेश कर रहा है।

Community Posts

No posts yet. Be the first to write about this video!

Write about this video