हमने एजेंट बिल्डिंग की समस्या को कैसे हल किया — एंड्रयू क्यू, वर्सेल
AAI Engineer
Computing/SoftwareSmall Business/StartupsInternet Technology
Transcript
00:00:00नमस्ते सभी को, आने के लिए धन्यवाद। मैं एंड्रयू हूँ, वर्सेल में सॉफ्टवेयर का चीफ हूँ, और मैं यहाँ
00:00:20आपसे यह बात करने आया हूँ कि हमने वर्सेल में एजेंट निर्माण की समस्या को कैसे हल किया। मैं सॉफ्टवेयर का चीफ हूँ, इसलिए मैं
00:00:26आंतरिक इंजीनियरिंग, बाहरी प्रयोग, और आम तौर पर तकनीकी मोर्चे पर
00:00:30रहकर नई लाइब्रेरी, फ्रेमवर्क और तकनीकें बनाने का काम करता हूँ। जो लोग वर्सेल को नहीं
00:00:36जानते, उन्हें बता दें कि वर्सेल एजेंटिक बुनियादी ढांचा बनाता है ताकि लोग भविष्य की तकनीक तैयार कर सकें। हमने शुरुआत
00:00:42वेब की दुनिया से की थी, लोगों को ऐसी वेबसाइट्स और वेब ऐप्स शिप करने में मदद करके जिन्हें बुनियादी ढांचे की
00:00:47चिंता न करनी पड़े जो उनके ऐप को बेहतर नहीं बनाता। यह आसानी से दस लाख तक या शून्य तक
00:00:50स्केल हो सकता है। लेकिन हम लोगों की ज़रूरतों में बदलाव देख रहे हैं। लोगों ने शुरुआत
00:00:56पेज बनाने से की थी, लेकिन अब वे एजेंट बनाना चाहते हैं, और हमने भी लोगों के लिए
00:01:01एजेंट और एजेंटिक एप्लिकेशन बनाना आसान बनाने के लिए एक ऐसा ही सफर तय किया है। हमने AISCK नाम की
00:01:08यह चीज़ बनाई है, ताकि 300, 400 लाइन का प्रोवाइडर-विशिष्ट कोड बदलने के बजाय,
00:01:13आप कोड की सिर्फ एक लाइन बदल सकें, और इन सभी अलग-अलग प्रोवाइडर्स के लिए हमारे पास एक ही मॉडल इंटरफ़ेस है।
00:01:19हमने मॉडल फॉलबैक, सुरक्षित कोड निष्पादन, निष्क्रिय होने और प्रतिक्रिया का इंतजार करने पर बेहतर मूल्य निर्धारण,
00:01:25साथ ही स्थायित्व और रेज़्यूमेबिलिटी को आसान बनाने के लिए कई अन्य टूल भी बनाए हैं।
00:01:30और मैं यहाँ आपको यह बताने आया हूँ कि कैसे लगभग एक साल पहले मैंने एक ऐसा अजीब प्रयोग किया जिसके कारण
00:01:38वर्सेल में एजेंटों की बाढ़ आ गई और हाल ही में हमने एक बहुत बढ़िया चीज़ बनाई।
00:01:46लगभग, यह 1980 की बात है, बिल गेट्स ने, मेरे जन्म से पहले, यह बात कही थी कि वह हर डेस्क पर और हर घर में
00:01:53एक कंप्यूटर होने की कल्पना करते हैं। वह बात तब शायद काफी अलग और असंभव लगी होगी, और आज ऐसा होना बहुत
00:01:59सामान्य लगता है। और मेरे और सीटीओ के मन में यह विचार आया कि हर डेस्क पर कंप्यूटर के बजाय,
00:02:07क्या हम संभावित रूप से हर डेस्क पर एक एजेंट रख सकते हैं? आज हम वास्तव में केवल कोडिंग और तकनीकी
00:02:15कार्यों के लिए एजेंटों का उपयोग करते हैं, लेकिन हम डिज़ाइन और उत्पाद प्रबंधन जैसे अन्य
00:02:20क्षेत्रों में भी इसका विस्तार देख रहे हैं। और यह लगभग एक साल पहले की बात है, इसलिए मैं कहूँगा कि मैं इसमें काफी शुरुआत में था। लेकिन तब
00:02:27सॉनेट 4 था और चीज़ें उतनी परिष्कृत नहीं थीं जितनी आज हैं। और मैंने वास्तव में इसकी खोज करने की कोशिश की, कि हम इसके बारे में क्या कर सकते हैं।
00:02:33मैं वर्सेल में विभिन्न जॉब भूमिकाओं के पास गया। मार्केटिंग, सेल्स, फाइनेंस, लीगल। और मैंने उनसे पूछा, आपको अपनी नौकरी के बारे में सबसे ज्यादा क्या नफरत है?
00:02:42और सबसे आकर्षक उपयोग का मामला मुझे डेटा टीम में मिला। वे बढ़ रहे थे, वे एक बहुत छोटी टीम थे,
00:02:50लेकिन वर्सेल तेजी से बढ़ रहा था। उनके पास ग्राहकों, एनालिटिक्स, मेट्रिक्स, सेल्स से बहुत अधिक डेटा था। उन्हें बस लगातार डेटा एकत्र करना पड़ता था और अपने उपयोग के लिए उपलब्ध कराना पड़ता था।
00:03:02और इस समय, यदि आप सोचें कि डेटा साइंस के लोगों को क्या करना पड़ता है, जब भी मार्केटिंग या सेल्स से कोई व्यक्ति
00:03:11किसी ग्राहक या उत्पाद के बारे में कोई सवाल पूछता है, तो डेटा साइंस टीम को अपना सारा काम छोड़कर क्वेरी लिखनी पड़ती है, इसे प्रोसेस करना पड़ता है, विश्लेषण करना पड़ता है, और क्या करना है इस पर
00:03:19कुछ सिफारिश के साथ वापस आना पड़ता है। और यह उत्पादकता के लिए बहुत घातक था। डेटा टीम सब कुछ छोड़कर सारा दिन केवल क्वेरी नहीं लिखना चाहती थी। और इसलिए मैंने इसे करने का बेहतर तरीका खोजने के लिए हमारे डेटा वीपी के साथ काम किया।
00:03:31उनके लिए इस तरह से काम करने का एक बेहतर तरीका खोजने की कोशिश की। और इसलिए यदि आप उस सबसे पहली चीज़ के बारे में सोचते हैं जो आप कभी करेंगे यदि आप किसी समस्या को हल करने के लिए
00:03:40AI का उपयोग करने का प्रयास करना चाहते हैं, तो आप शायद एक विशाल मेगा प्रॉम्प्ट बना सकते हैं। आपके पास बस एक सवाल होता है, आप उसे एलएम को देते हैं, आप उसे जवाब देते हैं, बस इतना ही। ईमानदारी से कहें तो पहला संस्करण वास्तव में ऐसा ही दिखता था।
00:03:52मैंने उनसे स्नोफ्लेक स्कीमा का डंप माँगा। मैंने इसे एक सवाल के साथ सिस्टम प्रॉम्प्ट में पेस्ट कर दिया। और फिर जब इसने SQL जनरेट किया, तो मैंने वास्तव में
00:04:01उसकी कॉपी-पेस्ट करके खुद ही रन कर दिया। मैं यह देखना चाहता था कि क्या आज के मॉडल कुछ अच्छी संरचना को देखते हुए वैध SQL लिखने के लिए
00:04:09पर्याप्त रूप से अच्छे हैं। और मैं कहूँगा कि इससे हमें थोड़ा विश्वास मिला कि आज के मॉडल उतने अच्छे नहीं हैं, लेकिन शायद हम प्रॉम्प्ट इंजीनियरिंग कर सकते हैं या इसके आसपास के संदर्भ को थोड़ा बेहतर बना सकते हैं और बेहतर ढंग से काम करने के लिए कुछ और गार्डरेल्स दे सकते हैं।
00:04:21और इसलिए यदि आप वास्तव में सोचते हैं कि जब किसी डेटा वैज्ञानिक को कोई प्रश्न मिलता है तो उसे वास्तव में क्या करने की आवश्यकता होती है, तो उन्हें प्रश्न को प्रोसेस करना होता है।
00:04:28उन्हें सिमेंटिक लेयर का पता लगाना पड़ सकता है और वास्तव में यह पता लगाना पड़ सकता है कि जॉइन पैटर्न क्या हैं। वे वास्तव में जाकर SQL निष्पादित करेंगे।
00:04:35यदि SQL निष्पादित नहीं हुआ या यदि यह बहुत महंगा था, तो वे वापस जाकर दोबारा ऐसा कर सकते हैं। और वे अंत में इस पर रिपोर्ट करेंगे, जिसमें डेटा की कल्पना करना,
00:04:42शायद कुछ पैराग्राफ लिखना, शायद एक रेट्रो करना, शायद कुछ अन्य सामान करना शामिल हो सकता है। और इसलिए यदि आप उन विभिन्न चरणों के बारे में सोचते हैं, तो मैं और डेटा के वीपी
00:04:50ने बैठकर उन्हें विशिष्ट एजेंट वर्कलोड में मैप करने की कोशिश की। और इसलिए इस डेटा साइंस
00:04:57एजेंट का दूसरा संस्करण जिसे D0 कहा जाता है, मैं अब से D0 का उल्लेख कर रहा हूँ, यह है कि आप एक सवाल पूछते हैं, हमारे पास एक क्वेरी एजेंट होता है जो
00:05:05प्लानिंग एजेंट को एक क्वेरी पास करता है जिसके बाद एक निष्पादन एजेंट होगा, इत्यादि। और यदि आप इन सभी को एक साथ जोड़ते हैं, तो आपको वास्तव में
00:05:11कुछ ऐसा मिलता है जो ऐसा दिखता है, जहाँ प्रत्येक एजेंट के पास एक बहुत ही समर्पित सिस्टम प्रॉम्प्ट होता है जो उसके काम पर केंद्रित होता है और उसके टूल उस फ़ंक्शन के लिए बिल्कुल सटीक होते हैं।
00:05:20तो यहाँ एक उदाहरण है, आप देख सकते हैं कि पहले वाले के लिए, प्लानिंग एजेंट के पास एक रीड एंटिटी YAML और एक सर्च स्कीमा टूल है। और इसलिए यह केवल उनका उपयोग करेगा
00:05:31क्षमताएं तब तक होती हैं जब तक कि उसके पास प्लानिंग एजेंट को पास करने के लिए उत्तर न हो और फिर SQL एजेंट को और फिर रिपोर्टिंग को। और यह बेहतर हो रहा था।
00:05:38हम SQL को कॉपी और पेस्ट करने से बचने में सक्षम थे और वापस आने और रिपोर्ट करने की आवश्यकता से बच रहे थे।
00:05:44यह अब वास्तव में प्रश्न से उत्तर तक एंड-टू-एंड लूप कर रहा था। लेकिन हम इसके साथ कुछ दीवारों से टकराने लगे
00:05:54आर्किटेक्चर। और इस समय के आसपास हम इस निष्कर्ष पर पहुँचे कि, आपको वास्तव में जिसकी आवश्यकता है वह यह है कि आपको एक
00:06:01एजेंट की आवश्यकता है जिसके भीतर सारा मेगा संदर्भ हो और यह अपनी खुद की मेमोरी को प्रबंधित करे। यह उस समय के आसपास था
00:06:07जब हमें एहसास हुआ कि आप वास्तव में चाहते हैं कि एजेंट अपने द्वारा किए गए काम को देख सके, कुछ हद तक प्रतिबिंबित कर सके और
00:06:13उन चरणों का पता लगा सके जो यहाँ तक पहुँचे। और पिछले मॉडल के साथ, आपने देखा होगा कि एकमात्र चीज़ जो
00:06:19अगले एजेंट को मिलती है वह पिछले किए गए काम का सारांश और एक छोटा स्निपेट है। अब, इस तरह से आप
00:06:25कल्पना कर सकते हैं कि आपके पास एक मेगा एजेंट है और आंतरिक रूप से यह अपनी स्थिति को प्रबंधित करता है। कुछ बिंदुओं पर यह योजना बना रहा है,
00:06:30कुछ बिंदुओं पर यह निर्माण कर रहा है, कुछ बिंदुओं पर यह निष्पादित कर रहा है, और कुछ बिंदुओं पर यह रिपोर्ट कर रहा है। और यह कुछ ऐसा है जो यह
00:06:36दिखता था। आपके पास एक बड़ा AI कॉल है, शायद अधिकतम 100 चरण, और आप इसे अपनी निष्पादन यात्रा के भीतर यह कहाँ है, इसके आधार पर अपनी स्थिति को प्रबंधित करने की क्षमता देते हैं।
00:06:43और इसलिए आप देख सकते हैं कि यह वैसा ही है जैसा
00:06:48टूल हैं, आप एक समान आकार देख सकते हैं। लेकिन इसके बारे में सबसे अच्छी बात यह है कि अगर निष्पादित करते समय या
00:06:54शामिल होने पर कभी भी किसी त्रुटि का सामना करना पड़ा, तो यह वापस जा सकता है और अधिक खोज कर सकता है, या यह जा सकता है और अधिक पढ़ सकता है और पता लगा सकता है कि यह क्या गलत कर रहा था।
00:07:00और इस बिंदु पर यह बहुत अच्छा था। हम हाथ में मौजूद वास्तविक प्रणाली के बारे में काफी आश्वस्त थे, और हमने वास्तव में
00:07:06इसे अपने कुछ विश्वसनीय सदस्यों तक फैलाया। यह एक बहुत शक्तिशाली उपकरण था और हम वास्तव में इसे गलत लोगों के हाथों में नहीं डालना चाहते थे
00:07:11या ऐसे लोग जो बहुत महत्वपूर्ण वर्कलोड का उपयोग कर रहे थे। इसलिए हमने कुछ लोगों के हाथों में बात पहुँचाई और तुरंत
00:07:17प्रतिक्रिया यह थी कि यह भयानक था। हमें लगा कि हम कमाल कर रहे हैं। हमें लगा कि यह हमारे मूल्यांकन का 30% हिस्सा पूरा कर रहा है।
00:07:23लेकिन हम कुछ ऐसे सवालों का अनुमान नहीं लगा सके जो पूछे जा रहे थे। और हमारे लिए इनमें से कुछ परिदृश्यों को मैन्युअल रूप से मैप करने में अधिक समय बिताना
00:07:28पड़ता, यह ऐसा करने का बहुत स्केलेबल तरीका नहीं लग रहा था।
00:07:33और फिर क्लॉड कोड और ओपस 4.5 बाहर आए, या अधिक जैसे ओपस 4.5 बाहर आया, और यह क्लॉड कोड के स्पर्श में बहुत शक्तिशाली था।
00:07:44वे फ़ाइल सिस्टम एजेंट की अवधारणा को अनलॉक करते हैं। और हमने, साइड में, सोचा, वाह, क्लॉड कोड और ओपस 4.5 हमारे पास पहले जो था उसकी तुलना में मूल रूप से AGI है।
00:07:56हमारे पास मौजूद हाथ से उगाए गए एजेंट की तुलना में, यह हमारे अधिकांश सवालों के जवाब बिना किसी परेशानी के दे देगा।
00:08:04और जब हमने पीछे हटने की कोशिश की और आश्चर्य किया कि हम क्या गलत कर रहे थे और यह इतना बेहतर क्यों था, तो हमें एहसास हुआ कि बड़ा अनलॉक यह था कि यह सिर्फ एक फ़ाइल सिस्टम था।
00:08:13इसमें टूल का एक बहुत ही न्यूनतम सेट था, लिस्ट फ़ाइल, रीड फ़ाइल, रन बैश, और हमने अपने स्वयं के डेटा एजेंट उपयोग के मामले के लिए यहाँ कुछ और दिए।
00:08:24लेकिन सबसे बड़ी बात यह थी कि यह उन टूल्स का उपयोग करने में सक्षम था जिन पर एजेंट अच्छी तरह से प्रशिक्षित हैं और जहाँ आवश्यकता हो वहाँ काम करने और लिखने में सक्षम था।
00:08:32हम इसे नहीं दे रहे थे - क्लॉड कोड इसे टूल का बहुत अधिक स्पष्ट सेट नहीं दे रहा था।
00:08:37यह सिर्फ इसे जंगली होने और उभरते हुए व्यवहार का पता लगाने दे रहा था।
00:08:41और इसलिए, इससे, हमने सीखा कि आप वास्तव में केवल फ़ाइल सिस्टम का उपयोग कर सकते हैं।
00:08:44हमने क्लॉड कोड से सीख देखी और यह कितना शक्तिशाली था कि यह सिर्फ स्थानीय रूप से निष्पादित होता है।
00:08:50और हमने इसे इस तरह से फिर से बनाने की कोशिश की जो बहुत क्लॉड कोड जैसा था।
00:08:54यह अब एक सैंडबॉक्स में चलने वाला था।
00:08:57वह सैंडबॉक्स इसमें पूरे सिमेंटिक लेयर को डंप कर देगा।
00:09:00आप - एजेंट यह पता लगाने के लिए कि उसे क्या चाहिए, चारों ओर बैश, रीड फ़ाइल, राइट फ़ाइल को पकड़ सकेगा।
00:09:05और हम यह सुनिश्चित करने के लिए शीर्ष पर कुछ उपकरण छिड़केंगे कि यह वह सब कर सके जो वर्सेल विशिष्ट है।
00:09:10और यह वास्तव में अब तक का सबसे बड़ा अनलॉक था।
00:09:14सिंगल एजेंट से क्लॉड कोड SDK और फिर क्लॉड कोड SDK से फाइल सिस्टम एजेंट तक की छलांग, हमारे उपयोग के मामले के लिए ठीक-ठाक या उद्देश्य से बनाई गई, एक अद्भुत छलांग थी।
00:09:27इस बिंदु पर, हम इसे वर्सेल में अधिक लोगों को देने के लिए तैयार होने लगे थे।
00:09:31और इस बिंदु पर, मूल्यांकन स्कोर मूल रूप से दोगुना हो गया।
00:09:36और मैंने यह लिखा - यह मूल रूप से ऐसा दिखता है।
00:09:39यह बहुत सरल है।
00:09:40आप इसे सिर्फ एक बैश टूल दें।
00:09:41हमारे पास NPM पर बैश टूल नामक एक अच्छा सहायक है।
00:09:44और आप इसे एक सैंडबॉक्स से जोड़ते हैं।
00:09:45और आप इसे पढ़ने, लिखने और निष्पादित करने के लिए सैंडबॉक्स में फ़ाइलें संलग्न कर सकते हैं।
00:09:50और इस खुलासे के बाद, और यह देखने के बाद कि हम उन कई सवालों को पास कर रहे हैं जिन्हें हम पहले करने में विफल रहे थे, मैंने यह बेहतरीन ब्लॉग पोस्ट लिखा।
00:09:59यह वास्तव में आज ऊपर है।
00:10:00और जिस सप्ताह मैंने इसे लिखा, यह हमारे Vercel.com ट्रैफ़िक के 70% के लिए जिम्मेदार था।
00:10:05तो आप जानते हैं कि यह कमाल है।
00:10:07और उसके बाद, अगला तार्किक कदम यह था कि हम सामान्य उपयोग के मामलों का पता लगाना चाहते थे जो हमारे पास थे।
00:10:14तो तब तक, हम पहले ही इसे हमारे सभी सेल पर छोड़ चुके हैं।
00:10:18और हमें ग्राहकों के मेट्रिक्स, बिक्री मेट्रिक्स, संख्या मेट्रिक्स, एनपीएम डाउनलोड से सब कुछ चाहने वाले लोगों से प्रतिदिन हजारों प्रश्न मिल रहे थे।
00:10:27और यह पता चलता है कि इनमें से कई प्रश्न आकार में वास्तव में समान हैं।
00:10:30आप जानते हैं, केवल इतने ही तरीके हैं जिनसे आप एकत्रीकरण कर सकते हैं।
00:10:33आप किसी उत्पाद को केवल इतने ही तरीकों से देख सकते हैं।
00:10:35बिलिंग जानकारी प्राप्त करने के केवल इतने ही तरीके हैं।
00:10:37और इसलिए हमारे पास वास्तव में एक आवर्ती नौकरी है जो सबसे हालिया प्रश्नों को लेती है और उन्हें एक कौशल में बदलने का प्रयास करती है।
00:10:43और अभी, हमारे पास लगभग 100 कौशल हैं जो कुछ लोगों के बारे में विशिष्ट डेटा देखने के माध्यम से सभी एकत्रीकरण का मिश्रण करते हैं।
00:10:50और हमने इसे बहुत प्रभावी पाया।
00:10:52क्योंकि अगर आप हर नए एजेंट रन के बारे में सोचें, तो यह लगभग शून्य से शुरू होता है।
00:10:56आप जानते हैं, सिमेंटिक लेयर और सिस्टम प्रॉम्प्ट के अलावा वास्तव में कोई पूर्व-स्थापित संदर्भ नहीं होता है।
00:11:01लेकिन एक स्किल के साथ, यह पहले से ही बहुत सारे प्रासंगिक ज्ञान के साथ शुरू होता है जो अन्यथा पहले ही किया जा चुका होता है।
00:11:09और यह मोटे तौर पर ऐसा दिखता है।
00:11:11यह पिछले वाले के समान ही है।
00:11:12लेकिन स्किल्स फ़ोल्डर को शामिल करना वास्तव में बहुत शक्तिशाली है।
00:11:15हमने Vercel में Skills SH नाम का यह टूल भी बनाया है।
00:11:18यह एजेंट स्किल्स खोजने और उन्हें खुद चलाने का सबसे लोकप्रिय तरीका है।
00:11:22और मैं यह सब इसलिए कह रहा हूँ क्योंकि यह सफर कुछ ऐसा है जिसका सामना आप में से अधिकांश लोग कभी-कभी कर सकते हैं।
00:11:28जहाँ आप किसी सरल चीज़ से शुरू करते हैं और धीरे-धीरे जटिलता जोड़ते हैं और अंततः एक ऐसे सिस्टम पर पहुँचते हैं जिसे आप प्रॉड में शिप कर सकते हैं।
00:11:34और मैं आपको यह बता रहा हूँ क्योंकि इस एजेंट के निर्माण के हर चरण में, Vercel में कोई न कोई एजेंट को लेकर उत्सुक था।
00:11:42और उन्होंने मेरे D0 एजेंट से अलग होकर अपना खुद का बनाने की कोशिश की।
00:11:46और हर कदम पर, हमारे पास कुछ ऐसा करने का एक बेहतर तरीका था जो पहले से ज्ञात नहीं था।
00:11:50और हम सोच रहे थे कि क्या हो अगर आज के लोग बिल्कुल आखिरी अंतर्दृष्टि से शुरुआत कर सकें और उन्हें कभी भी केवल एक साधारण प्रॉम्प्ट से या पहले सिद्धांतों से सर्वोत्तम सिद्धांतों को फिर से आविष्कार करने से शुरुआत न करनी पड़े।
00:12:04और इसलिए हमने वास्तव में सोचा कि क्या होगा यदि हम एजेंटों के लिए Next.js बनाएं।
00:12:09जो लोग नहीं जानते, उनके लिए Next.js Vercel द्वारा बनाया गया एक लोकप्रिय वेब फ्रेमवर्क है जिसने फ़ाइल सिस्टम फ्रेमवर्क-परिभाषित बुनियादी ढांचा तैयार किया है।
00:12:18आपको इस बारे में चिंता करने की ज़रूरत नहीं है कि चीज़ें कहाँ जाती हैं।
00:12:20आपको बस सही सम्मेलनों में फाइलें लिखनी हैं।
00:12:23और यह स्वचालित रूप से घोषित करता है कि उन्हें कहाँ जाना चाहिए।
00:12:26आपके पेज CDN पर जाते हैं।
00:12:27आपके सर्वरलेस फ़ंक्शन वहाँ जाते हैं।
00:12:29आपकी कैशिंग बीच में जाती है।
00:12:31और हमने सोचा, एजेंट बनाना इतना आसान होना चाहिए।
00:12:34आपको केवल एक स्किल्स फ़ोल्डर, एक टूल फ़ोल्डर, एक चैनल्स फ़ोल्डर बनाना चाहिए।
00:12:38और आप इन्हें बहुत आसानी से घोषित करने में सक्षम होने चाहिए।
00:12:40और फ्रेमवर्क को यह अच्छी तरह पता होना चाहिए कि इससे एजेंट कैसे बनाया जाए।
00:12:44और इसीलिए दो हफ्ते पहले हमने Eve को रिलीज़ किया।
00:12:47Eve एजेंटों के लिए Next.js जैसा एक एजेंट फ्रेमवर्क है जहाँ केवल एक नमूना टेम्पलेट से शुरुआत करने से लेकर पूरी तरह से एजेंट तैयार करने और अपने खुद के कस्टम ज्ञान, अपने खुद के कस्टम टूल जोड़ने में आसानी होती है,
00:12:59और यहाँ तक कि इसे उन चैनलों में भी एकीकृत करना जिनसे आप परिचित हैं।
00:13:03यह मोटे तौर पर वही है जो हम सोचते हैं कि एक एजेंट वास्तव में दिखता है।
00:13:06एक एजेंट के पास एक रनटाइम होता है और उसके पास चैनल होते हैं।
00:13:09और उस रनटाइम में, आपके पास स्थायित्व होगा।
00:13:11आप एक अलग वातावरण में चीजें चलाना चाहेंगे।
00:13:13आप अलग-अलग मॉडल को कॉल करना चाहेंगे।
00:13:15और आप कनेक्शन रखना चाहेंगे।
00:13:17और हमने इसे ओपन सोर्स को ध्यान में रखकर बनाया है।
00:13:19हमने Eve को इसलिए बनाया है ताकि आप Postgres, OpenAI के रिस्पॉन्स API, Docker और अन्य कनेक्टर्स के लिए अपने खुद के ओपन सोर्स एडेप्टर प्लग इन कर सकें।
00:13:29लेकिन हमने Vercel में इसे तैनात करना भी बेहद आसान बना दिया है।
00:13:31यहाँ आपको केवल एक चीज़ अलग दिखाई देगी कि यहाँ की हर चीज़ एक Vercel उत्पाद का उपयोग कर रही है जिसे हमने इन अनुभवों को बनाना आसान बनाने के लिए पिछले वर्षों में बनाया है।
00:13:39स्थायित्व के लिए Vercel वर्कफ़्लो, सुरक्षित निष्पादन के लिए Sandbox, और Vercel Connect, जिसे हमने कनेक्शन के लिए अल्पकालिक OADC टोकन जनरेट करना आसान बनाने के लिए अभी जारी किया है।
00:13:51और हमने Eve को बनाते समय वास्तव में Eve में पूरे D0 एजेंट को फिर से लिखा।
00:13:55और पर्दे के पीछे की उन जटिल संरचनाओं से जिन्हें आपने कोड से नहीं देखा था, फ़ाइल सिस्टम कुछ इस तरह दिखता है।
00:14:01यह बहुत सरल है।
00:14:02आपके पास बहुत सारे सिस्टम निर्देश, कुछ स्किल्स, कुछ टूल्स हैं, और इसे एक असली एजेंट में संयोजित करना बहुत आसान है।
00:14:09और इस पर काम करना भी बहुत आसान है।
00:14:11हमने वास्तव में दो हफ्ते पहले अपने लंदन इवेंट में इसे पूरी तरह से रिलीज़ करने से पहले कुछ बीटा ग्राहकों को दिया था।
00:14:17और इस एक कंपनी ने जो हमारे साथ मिलकर काम करती है, Aura, उन्होंने लोगों की सेवाओं का परीक्षण करने के लिए मिनी-क्लॉ की तरह अपने एजेंट को फिर से बनाया है।
00:14:26यह वेबसाइटों पर जाता है, उन्हें स्थापित करता है, और उनका उपयोग करने की कोशिश करता है।
00:14:29और उन्होंने ऑफ-द-शेल्फ क्लाउड कोड का उपयोग करने की तुलना में Eve का उपयोग करके जमीन से अपना खुद का एजेंट बनाने में невероят (अविश्वसनीय) सफलता देखी है।
00:14:38कम चरण, बेहतर सफलताएं, साथ ही बेहतर अंतर्दृष्टि।
00:14:42और जब आप Eve को Vercel पर तैनात करते हैं, तो आपको तुरंत ऑब्जर्वेबिलिटी मिलती है।
00:14:49आप यहाँ देख सकते हैं कि आपको सभी एजेंट रन मिलते हैं, आप सभी टूल कॉल देखते हैं, आप इसके द्वारा उठाए जाने वाले प्रत्येक चरण को देखते हैं, साथ ही कुछ अनुमानित लागत और कुछ अनुकूलन भी देख सकते हैं जो आप संभावित रूप से कर सकते हैं।
00:15:00और आप आज ही Eve.dev पर शुरुआत कर सकते हैं।
00:15:02आप इसे क्लोन कर सकते हैं और बस एक टेम्पलेट शुरू कर सकते हैं, आसानी से तैनात कर सकते हैं, यदि आवश्यक हो तो खुद होस्ट कर सकते हैं।
00:15:07और मैं इसे सामने क्यों ला रहा हूँ क्योंकि मुझे आशा है कि व्यवसाय-विशिष्ट उपयोग के मामलों वाले अधिक से अधिक एजेंट होंगे।
00:15:14D-Zero बनाने से पहले, हमने वास्तव में उद्योग के कई अच्छी तरह से वित्त पोषित स्टार्टअप्स का परीक्षण किया था जो इन लंबवत एजेंटों को कर रहे थे।
00:15:23जो आपके Snowflake इंस्टेंस को लेने और इसे इस तरह बनाने के लिए समर्पित थे कि उनका एजेंट इसके खिलाफ Snowflake क्वेरी चला सके।
00:15:30लेकिन हमने पाया कि जो चीज़ इस एजेंट को वास्तव में अच्छा बनाती है वह यह है कि इसमें कंपनी का बहुत सारा विशिष्ट ज्ञान होता है।
00:15:38जिस तरह Vercel एक वेब-आधारित कंपनी है, हमारे पास ऐसे कई ग्राहक हैं जिनकी वेबसाइटें और वेब संपत्तियां हैं।
00:15:45यह इस बात में काफी गहराई तक जाता है कि आपको किसके लिए और कब क्वेरी करनी चाहिए और कौन सी चीजें किससे लिंक होती हैं।
00:15:51और इसलिए इनमें से कई ऑफ-द-शेल्फ एजेंट, वे महान हैं, कोशिश करने के लिए अच्छे हैं, लेकिन मुझे लगता है कि यदि आप वास्तव में किसी चीज से सबसे ज्यादा लाभ उठाना चाहते हैं,
00:15:58तो आपको वास्तव में अपना खुद का एजेंट बनाने की कोशिश करनी चाहिए और जितना हो सके कंपनी-विशिष्ट ज्ञान को जोड़ना चाहिए।
00:16:03आज, आप जानते हैं, हमारे पास Vercel में लगभग 20 ठीकठाक PMF एजेंट हैं जो मार्केटिंग रेट्रो से लेकर यह पता लगाने के लिए कि किससे संपर्क करना है,
00:16:14किसी अनुबंध की पहली बार लाल रेखा (रेड लाइन) तक जब कानूनी टीम को कोई नया सौदा दिखाई देता है, और डेटा क्वेरी में मदद करने वाले मेरे डेटा साइंस एजेंट तक सब कुछ शामिल है।
00:16:24और इससे पता चलता है कि हम Vercel में बहुत अधिक एजेंट-युक्त रहे हैं।
00:16:28आप जानते हैं, यह सब वास्तव में हमारा बहुत समय बचा रहा है।
00:16:32डेटा टीम इतनी उत्पादक कभी नहीं रही।
00:16:34उनके पास Snowflake के प्रदर्शन को बेहतर बनाने, नए डेटा स्रोतों को जोड़ने के लिए अधिक समय है जो गायब थे,
00:16:40उन कमियों को पूरा करने के लिए जो उनके पास पहले समय नहीं था क्योंकि वे क्वेरी लिखने में बहुत व्यस्त थे।
00:16:46और मुझे लगता है कि आपकी बड़ी, छोटी, मध्यम आकार की कंपनी के लिए उन चीज़ों में से कुछ को स्वचालित करना कभी भी इतना आसान नहीं रहा है जिन्हें आप करना नहीं चाहते हैं
00:16:55या उन चीज़ों में से कुछ जिन्हें करने में आप बहुत अधिक समय बिता रहे हैं।
00:16:58आप जानते हैं, मुझे लगता है कि बहुत सारे मानव संसाधन, वित्त, बिक्री को एजेंटों के साथ कुछ हद तक स्वचालित किया जा सकता है, और मुझे लगता है कि आज ऐसे एजेंटों को बनाने का Eve सबसे अच्छा तरीका है।
00:17:09और ये मेरे सोशल मीडिया हैंडल हैं।
00:17:11आप सभी के आने और सुनने के लिए धन्यवाद।
00:17:13मैं एंड्रयू हूँ, और अगर आप बाहर बात करना चाहते हैं तो मैं यहीं आसपास रहूँगा।
Community Posts
No posts yet. Be the first to write about this video!
Write about this video