मैं अभी भी पूरी तरह आश्वस्त नहीं हूँ

MMaximilian Schwarzmüller
컴퓨터/소프트웨어AI/미래기술

Transcript

00:00:00तो, OpenClaw, जिसे पहले Clodbot कहा जाता था, और Moldbook—इंटरनेट पर पिछले कुछ दिन
00:00:06काफी हलचल भरे रहे हैं। AI का एक नया शोर मचा है और ज़ाहिर है, मैंने भी पिछले कुछ दिन
00:00:13OpenClaw से ज़्यादा से ज़्यादा फायदा उठाने की कोशिश में बिताए। इसे लेकर मेरे कुछ विचार और अनुभव हैं,
00:00:19जो मेरे द्वारा देखे गए ज़्यादातर वीडियो और पोस्ट से थोड़े अलग हैं।
00:00:24पर चलिए एक छोटी सी कहानी से शुरू करते हैं और मुझे यकीन है कि आप इसका मतलब समझ जाएंगे।
00:00:31कल्पना कीजिए कि आप एक शहर या गाँव में रह रहे हैं और वहाँ एक बहुत ही मिलनसार
00:00:37इंसान है जो हर तरह के काम में आपकी मदद करने के लिए बहुत उत्साहित रहता है।
00:00:43वह वे सारे उबाऊ काम करता है जो आप नहीं करना चाहते, या कम से कम कोशिश तो करता ही है।
00:00:48वह आपके बच्चों को स्कूल छोड़ने, घर और गाड़ी साफ़ करने और किराने का सामान लाने के लिए तैयार है।
00:00:54आप बस आराम से बैठ सकते हैं। लेकिन आपकी असल में मदद करने के लिए,
00:01:03ज़ाहिर है उस सहायक को कई तरह की अनुमतियों (permissions) की ज़रूरत होगी।
00:01:06आपको उसे घर और कार की चाबियाँ देनी होंगी ताकि वह
00:01:12अंदर से सफाई कर सके और सामान लाने के लिए कार का इस्तेमाल कर सके।
00:01:16आपको अपने बच्चों से भी कहना होगा कि वे उसके साथ कार में बैठें ताकि वह
00:01:21उन्हें स्कूल ले जा सके, और इसी तरह बाकी काम भी।
00:01:24लेकिन उस आदमी के साथ एक समस्या है।
00:01:28वह बहुत मिलनसार तो है, लेकिन कभी-कभी अजीबोगरीब नतीजों पर पहुँच जाता है।
00:01:32कम से कम, आप इस बात को नकार नहीं सकते कि वह कभी गलत फैसला नहीं लेगा।
00:01:37वह यह सोच सकता है कि घर की सारी गंदगी साफ़ करने का सबसे अच्छा तरीका
00:01:43उसमें आग लगा देना है।
00:01:44बदकिस्मती से, वह दूसरों की बातों में भी जल्दी आ जाता है, खासकर अगर कोई उसे
00:01:51चालाकी से बहकाए।
00:01:53उसे आपकी कार चोरी करने के लिए उकसाया जा सकता है, यह कहकर कि यह समाज के लिए बेहतर है।
00:02:03फिर से कह दूँ, ऐसा होना पक्का नहीं है, लेकिन इसकी पूरी संभावना है।
00:02:09आप इसे पूरी तरह खारिज नहीं कर सकते।
00:02:12इसलिए, ज़ाहिर है कि आपको उस आदमी से कई अनुमतियाँ और पहुँच (access) वापस लेनी पड़ेंगी
00:02:19क्योंकि आप उस पर पूरी तरह भरोसा नहीं कर सकते।
00:02:26और जो चीज़ें गलत हो सकती हैं, वे इतनी गंभीर हैं कि आप उन्हें महज़ एक
00:02:33संभावित खतरे के रूप में स्वीकार नहीं कर सकते।
00:02:35तो जैसे-जैसे आप उससे अनुमतियाँ और एक्सेस वापस लेते हैं,
00:02:40वह आपके लिए उतना ही कम उपयोगी होता जाता है।
00:02:43और फिर एक और समस्या आती है।
00:02:46पूरी आज़ादी के बाद भी, वह उतना काम नहीं आया जितनी आपने उम्मीद की थी।
00:02:54क्योंकि जिन कामों का वादा किया गया था, उन्हें उसने कभी-कभार ही किया।
00:03:00कुछ काम तो वह कर ही नहीं पाया, या भूल गया कि कैसे करना है, या फिर
00:03:06हर बार एक ही काम को अलग तरह से किया, या फिर उसे आपसे
00:03:12बहुत ज़्यादा मदद की ज़रूरत पड़ी।
00:03:14तो कुल मिलाकर, आप संतुष्ट नहीं हैं।
00:03:17और जैसा कि आपने अंदाज़ा लगा लिया होगा, OpenClaw के साथ मेरा अनुभव भी कुछ ऐसा ही रहा है।
00:03:22और यकीन मानिए, मैंने कोशिश पूरी की।
00:03:24मैंने इसके बारे में बहुत सी अच्छी बातें पढ़ी थीं।
00:03:25इसके बारे में बहुत तारीफ सुनी थी।
00:03:27तो ज़ाहिर है मैंने इसे आज़माया।
00:03:29मैंने अपना खुद का VPS (वर्चुअल प्राइवेट सर्वर) सेटअप किया।
00:03:31वैसे, मुझे पता नहीं था, लेकिन आप Hostinger के अलावा दूसरे VPS प्रोवाइडर्स भी इस्तेमाल कर सकते हैं।
00:03:38Hostinger के खिलाफ कुछ नहीं है।
00:03:39बस कई वीडियो देखकर मुझे कुछ अलग ही महसूस हुआ था।
00:03:43खैर, मैंने अपना खुद का VPS चलाया और उस पर OpenClaw इंस्टॉल किया।
00:03:50आप इसे अपने सिस्टम पर भी इंस्टॉल कर सकते हैं।
00:03:54बस एक कमांड चलानी होती है और आप काम शुरू कर सकते हैं।
00:03:58लेकिन निजी तौर पर, मैं इसे अपने MacBook पर कभी इंस्टॉल नहीं करूँगा, भले ही मुझे पता है कि
00:04:04वहाँ इंस्टॉल करने से मैं इसका ज़्यादा फायदा उठा पाऊँगा।
00:04:09पर मैं इसे वहाँ क्यों इंस्टॉल नहीं करना चाहता, इस बारे में
00:04:13थोड़ी देर बाद बात करेंगे।
00:04:15तो मैंने इसे अपने VPS पर इंस्टॉल किया और ऑनबोर्डिंग प्रक्रिया पूरी की।
00:04:19मुझे यकीन है कि आपने अब तक इसे कई बार देख लिया होगा या खुद आज़माया होगा।
00:04:24मैंने इसे अपने chatgpt+ सब्सक्रिप्शन से जोड़ा, अपना टेलीग्राम बॉट सेट किया और
00:04:25आखिरकार मैं अपने OpenClaw बॉट से बातचीत करने के लिए तैयार था।
00:04:33फिर मैं बैठकर सोचने लगा कि मैं इससे क्या-क्या काम करवा सकता हूँ।
00:04:39अब, मैंने दूसरे पोस्ट और वीडियो देखे हैं जहाँ लोग इसका इस्तेमाल
00:04:47डैशबोर्ड बनाने, वेब रिसर्च करने, सस्ती उड़ानें ढूँढने या सामान खरीदने के लिए कर रहे हैं।
00:04:54लेकिन मुझे इसे अपना क्रेडिट कार्ड एक्सेस देने का मन नहीं हुआ।
00:05:04और मुझे नहीं पता आपके बारे में, लेकिन मैं दिन में तीन बार फ्लाइट नहीं लेता।
00:05:08तो फ्लाइट्स खुद ढूँढना, खासकर जब ऐसी वेबसाइट्स मौजूद हैं जो आपको सबसे सस्ती फ्लाइट्स
00:05:13बता देती हैं, मेरे लिए कोई मुश्किल काम नहीं था।
00:05:19और मुझे अपनी यात्राओं की योजना बनाने में मज़ा आता है, हालाँकि हर किसी की पसंद अलग हो सकती है।
00:05:24रिसर्च के मामले में समस्या यह थी कि मैं पहले से मौजूद AI रिसर्च टूल्स
00:05:29जैसे Google का AI मोड, Gemini या ChatGPT के डीप रिसर्च से बहुत खुश हूँ।
00:05:30मैं इनका काफी इस्तेमाल करता हूँ।
00:05:35मुझे ये बहुत मददगार लगते हैं।
00:05:43इसलिए मुझे अपने खुद के बॉट की ज़रूरत महसूस नहीं हुई, जिसकी परफॉरमेंस शायद
00:05:44इनसे खराब ही होती।
00:05:46मैं मानता हूँ कि कुछ मामलों में यह दूसरे रिसर्च बॉट्स
00:05:53से बेहतर हो सकता है।
00:05:54जैसे कि, अगर मैं इसे अपने X (Twitter) अकाउंट का एक्सेस दे दूँ, तो
00:06:02यह उन चीज़ों पर रिसर्च कर सकता है जहाँ लॉग-इन की ज़रूरत हो या जहाँ मेरा इतिहास मायने रखता हो।
00:06:03मैं यह बात पूरी तरह समझता हूँ।
00:06:10यही वजह है कि X पर रिसर्च के लिए मैं Super Grok का इस्तेमाल करता हूँ।
00:06:16लेकिन हाँ, अगर आप इसे ज़्यादा अनुमतियाँ देते हैं, अपने अकाउंट्स में लॉग-इन करने देते हैं,
00:06:17ब्राउज़र इस्तेमाल करने देते हैं, या अपने सिस्टम पर चलाने देते हैं, तो शायद
00:06:20आप इससे मुझसे कहीं ज़्यादा काम करवा पाएँ।
00:06:24शायद मैं उतना रचनात्मक नहीं हूँ।
00:06:31और वैसे, मैं एक बात साफ कर दूँ जैसा मैंने दूसरे वीडियो में भी कहा है,
00:06:37मैं AI का बहुत ज़्यादा इस्तेमाल करता हूँ, सिर्फ रिसर्च के लिए ही नहीं, बल्कि कोडिंग के लिए भी।
00:06:39मैंने हाल ही में एक पूरा ClotCode कोर्स रिलीज़ किया है क्योंकि मैं सॉफ्टवेयर बनाने के लिए
00:06:43ClotCode और Cursor जैसे टूल्स का इस्तेमाल करता हूँ।
00:06:47मुझे लगता है कि AI वहाँ एक बहुत बड़ी मदद साबित हो सकता है।
00:06:53तो यह AI के खिलाफ कोई जनरल बात नहीं है।
00:06:58मुझे बस OpenClaw के लिए कोई बहुत शानदार इस्तेमाल (use case) नहीं मिला, खासकर इसे अपने मशीन पर न चलाने की वजह से।
00:07:01और यही मेरी मुख्य समस्या है। आप कह सकते हैं कि
00:07:07शायद मैं उतना क्रिएटिव या खुले दिमाग का नहीं हूँ कि इसके सही इस्तेमाल ढूँढ सकूँ।
00:07:09लेकिन सुरक्षा (security) मेरे लिए OpenClaw के साथ एक बहुत बड़ा मुद्दा है।
00:07:16मैं जानता हूँ कि कुछ लोग कहेंगे कि वे हफ़्तों से इसे इस्तेमाल कर रहे हैं और कुछ गलत नहीं हुआ
00:07:17या यह सब आगे चलकर ठीक हो जाएगा।
00:07:24पर मेरा मानना है कि 'कुछ गलत नहीं हुआ' वाला तर्क मुझे संतुष्ट नहीं करता।
00:07:31सिर्फ इसलिए कि आपके साथ कुछ बुरा नहीं हुआ, इसका मतलब यह नहीं कि सब ठीक है।
00:07:37वहाँ सुरक्षा की भारी खामियाँ हो सकती हैं जिनका फायदा गलत लोग उठा सकते हैं,
00:07:42या चीज़ें सिर्फ इसलिए गलत हो सकती हैं क्योंकि AI (लार्ज लैंग्वेज मॉडल्स) अप्रत्याशित होते हैं।
00:07:47इसके द्वारा आपकी हार्ड ड्राइव को डिलीट करने की संभावना बहुत कम हो सकती है,
00:07:55लेकिन यह शून्य नहीं है।
00:08:02और बिना अतिरिक्त जाँच के लार्ज लैंग्वेज मॉडल्स के साथ यह कभी शून्य नहीं होगी।
00:08:11वे कभी भी कुछ भी कर सकते हैं।
00:08:18इसके अलावा, OpenClaw के आधिकारिक सुरक्षा दस्तावेज़ों में भी सही कहा गया है कि
00:08:22प्रॉम्प्ट इंजेक्शन (prompt injection) की समस्या अभी हल नहीं हुई है।
00:08:28बेशक GPT-5.2 जैसे नए मॉडल्स प्रॉम्प्ट इंजेक्शन से बचने में
00:08:29काफी बेहतर हुए हैं।
00:08:35वे निर्देशों और सिस्टम प्रॉम्प्ट को बेहतर ढंग से फॉलो करते हैं।
00:08:37लेकिन प्रॉम्प्ट इंजेक्शन से 100% सुरक्षा जैसी कोई चीज़ नहीं है।
00:08:44और जिस तरह से ये मॉडल्स काम करते हैं, वैसी सुरक्षा कभी मुमकिन भी नहीं होगी।
00:08:47तो प्रॉम्प्ट इंजेक्शन हमलों से इनकार नहीं किया जा सकता, और OpenClaw जैसे टूल्स जितने लोकप्रिय होंगे,
00:08:55उतने ही ज़्यादा वे गलत इरादे रखने वालों की नज़र में आएँगे।
00:08:56एक एक्टिव OpenClaw बॉट में प्रॉम्प्ट इंजेक्ट करने के कई तरीके हैं।
00:09:00आपको लग सकता है कि इसे सिर्फ आप ही कंट्रोल कर रहे हैं, टेलीग्राम बॉट का एक्सेस सिर्फ आपके पास है,
00:09:06तो आप सुरक्षित हैं। पर फिर से सोचिए।
00:09:10उदाहरण के लिए, OpenClaw में 'स्किल्स' (skills) का एक कॉन्सेप्ट है जिसे आपने शायद
00:09:17Claude Code जैसे कोडिंग एजेंट्स में देखा होगा।
00:09:23विचार यह है कि आप एजेंट को अतिरिक्त कॉन्टेक्स्ट या मार्कडाउन डॉक्यूमेंट देते हैं,
00:09:24जिसके साथ एक्जीक्यूटेबल स्क्रिप्ट्स भी हो सकती हैं, ताकि उसकी क्षमता बढ़ाई जा सके।
00:09:32जैसे कि यहाँ Slack के साथ इंटरैक्ट करने के लिए उसे एक्स्ट्रा डॉक्यूमेंटेशन देना।
00:09:36इस उदाहरण में।
00:09:40और जैसा बताया गया है, एक स्किल के साथ कोई अतिरिक्त स्क्रिप्ट भी आ सकती है
00:09:42जिसे AI एजेंट कोई काम करने के लिए रन कर सकता है, जैसे इमेज बनाना या
00:09:48Slack पर मैसेज भेजना।
00:09:50दिक्कत यह है कि ClawHub, जो OpenClaw का ऑफिशियल स्किल्स हब है, उसने शुरू में
00:09:52हर किसी को स्किल्स सबमिट करने की इजाज़त दी थी।
00:09:59इसलिए 'सप्लाई चेन अटैक' करना बहुत आसान था, जैसा हमने पिछले साल NPM इकोसिस्टम में देखा था।
00:10:06इसका मतलब है कि कोई भी गलत इरादे वाला इंसान ऐसी स्किल पब्लिश कर सकता है
00:10:11जो AI को कुछ गलत करने का निर्देश दे, जो असल में एक प्रॉम्प्ट इंजेक्शन ही है।
00:10:13तो सिर्फ एक खतरनाक स्किल इंस्टॉल करने से आप अपने एजेंट को खतरे में डाल सकते हैं।
00:10:18अब, यहाँ कुछ सुधार किए गए हैं।
00:10:23जब मैं यह रिकॉर्ड कर रहा हूँ, तब हर कोई स्किल्स सबमिट नहीं कर सकता।
00:10:26यानी सुरक्षा में काफी सुधार हुआ है।
00:10:34लेकिन अगर हमने NPM हमलों से कुछ सीखा है, तो वह यह है कि
00:10:37हम इस बात को पूरी तरह खारिज नहीं कर सकते कि स्किल्स फीचर का इस्तेमाल
00:10:47आपके OpenClaw सेटअप में गलत निर्देश डालने के लिए किया जा सकता है।
00:10:55और प्रॉम्प्ट इंजेक्शन का सिर्फ यही एक तरीका नहीं है।
00:11:00अगर आपका बॉट इंटरनेट एक्सेस करता है—और वो करता ही होगा—तो वह
00:11:06वेबसाइट्स देखेगा या वहाँ का कंटेंट पढ़ेगा।
00:11:07वहाँ भी खतरनाक वेबसाइट्स हो सकती हैं जो AI को उन निर्देशों को मानने के लिए फुसला सकती हैं
00:11:10जो उस वेबसाइट पर छिपे हों।
00:11:15आपका बॉट जो कुछ भी पढ़ता और प्रोसेस करता है, वह अंततः एक प्रॉम्प्ट ही है।
00:11:18तो हर वेबसाइट जिसे वह विज़िट करता है, उसमें कोई ऐसा निर्देश हो सकता है जिसे वह मान ले।
00:11:24इसके अलावा और भी कई स्रोत हो सकते हैं।
00:11:31जैसे कि ईमेल्स।
00:11:38अगर आप अपने बॉट से ईमेल्स प्रोसेस करवाते हैं, तो हर ईमेल एक प्रॉम्प्ट की तरह काम करता है।
00:11:41इसलिए प्रॉम्प्ट इंजेक्शन एक बहुत बड़ा और गंभीर खतरा है।
00:11:46सिर्फ इसलिए कि आपके साथ कभी कुछ बुरा नहीं हुआ, इसका मतलब यह नहीं कि नहीं हो सकता।
00:11:50अब आप कह सकते हैं कि आप अपना बॉट एक VPS पर चला रहे हैं।
00:11:58या शायद आप MoldWorker जैसा कुछ इस्तेमाल कर रहे हैं, जो क्लाउडफ्लेयर द्वारा दिया गया एक सेटअप है
00:12:02जो OpenClaw को सुरक्षित रूप से होस्ट करने और चलाने के लिए क्लाउडफ्लेयर की सर्विस का इस्तेमाल करता है।
00:12:09और आपको ऐसा ही करना चाहिए।
00:12:17आपको बिल्कुल ऐसा ही करना चाहिए।
00:12:20आपको इसे अपने मुख्य सिस्टम पर कभी नहीं चलाना चाहिए।
00:12:21इसमें 'सैंडबॉक्सिंग' (sandboxing) जैसे फीचर्स भी हैं।
00:12:29यह असल में OpenClaw में पहले से मौजूद है।
00:12:34उनके पास सैंडबॉक्सिंग पर एक पूरा आर्टिकल है कि कैसे आप सुनिश्चित कर सकते हैं कि आपका एजेंट
00:12:40एक सैंडबॉक्स (जो कि एक Docker कंटेनर है) में चले, ताकि नुकसान का दायरा सीमित रहे।
00:12:45वैसे, डॉक्यूमेंटेशन काफी ज़्यादा है, लेकिन अच्छा नहीं है।
00:12:51मैंने अपने सेटअप को सुरक्षित करने में घंटों, सचमुच कई घंटे बिताए।
00:12:58मुझे यकीन है कि सब कुछ वहीं है।
00:13:00मैंने सुरक्षा वाला वो आर्टिकल भी देखा था।
00:13:02पर इसे समझना बहुत ही मुश्किल है।
00:13:03और इससे पहले कि आप कहें कि मुझे अपने OpenClaw बॉट से पूछना चाहिए था, मैंने बहुत बार पूछा।
00:13:08कभी इसने काम किया, कभी नहीं।
00:13:11यह काफी हद तक 'ट्रायल एंड एरर' जैसा था।
00:13:15तो हाँ, डॉक्यूमेंटेशन से सही जानकारी निकालना अपने आप में एक समस्या है, लेकिन इसे सुधारा जा सकता है।
00:13:21मैं इस बात की सराहना करता हूँ कि कम से कम जानकारी वहाँ मौजूद तो है।
00:13:27खैर, सैंडबॉक्सिंग मौजूद है और यह आपको खतरे के दायरे को कम करने की अनुमति देती है,
00:13:32जो कि बहुत ज़रूरी है क्योंकि प्रॉम्प्ट इंजेक्शन की समस्या को पूरी तरह हल नहीं किया जा सकता।
00:13:37उदाहरण के लिए, अगर आप सैंडबॉक्सिंग और VPS का इस्तेमाल कर रहे हैं, तो ज़्यादा से ज़्यादा
00:13:39सैंडबॉक्स या आपके पूरे VPS का डेटा डिलीट हो सकता है, पर आपका पर्सनल कंप्यूटर सुरक्षित रहेगा।
00:13:42यही कारण है कि मैं OpenClaw को अपनी मुख्य मशीन पर कभी नहीं चलाऊँगा।
00:13:44मैं नहीं चाहता कि यह गलती से भी मेरी फाइल्स या हार्ड ड्राइव डिलीट कर दे।
00:13:49खतरे को कम करना ज़रूरी है, पर यह आपको सबसे बुरे परिणामों से पूरी तरह नहीं बचा सकता।
00:13:50क्योंकि प्रॉम्प्ट इंजेक्शन के ज़रिए हमलावर फाइल्स डिलीट करने की कोशिश तो कर ही सकते हैं,
00:13:51पर उससे भी बुरा यह है कि वे आपका डेटा चुरा सकते हैं।
00:13:52मेरी राय में, डेटा चोरी होना फाइल्स डिलीट होने से कहीं बड़ी समस्या है।
00:14:00और डेटा चोरी (Data exfiltration) प्रॉम्प्ट इंजेक्शन हमले का एक बहुत बड़ा नतीजा हो सकता है।
00:14:04क्योंकि हमलावर AI से वो सारे सीक्रेट्स और पासवर्ड्स उगलवा सकता है जो उसे पता हैं,
00:14:09और उसे ईमेल या दूसरे कामों के लिए कुछ पासवर्ड्स की ज़रूरत तो होगी ही।
00:14:17शायद आपने उसे अपना क्रेडिट कार्ड नंबर भी दिया हो। इस तरह का डेटा इकट्ठा करके
00:14:27प्रॉम्प्ट इंजेक्शन के ज़रिए बाहर भेजा जा सकता है।
00:14:34सही सेटअप के बाद भी हार्ड ड्राइव डिलीट होने से बड़ा रिस्क डेटा चोरी होने का है।
00:14:40ज़ाहिर है कि यह और भी चीज़ें कर सकता है।
00:14:46यह आपके VPS को DDoS हमलों के लिए एक बॉट में बदल सकता है।
00:14:50यह तो सिर्फ एक उदाहरण है, ऐसी अनगिनत चीज़ें हैं जो की जा सकती हैं।
00:14:57लेकिन मुख्य बात यह है कि प्रॉम्प्ट इंजेक्शन के ज़रिए हमलावर आपके बॉट और मशीन पर कब्ज़ा कर सकते हैं।
00:15:02वे आपके बॉट से खतरनाक सॉफ्टवेयर इंस्टॉल करवा सकते हैं या सिस्टम सेटिंग्स बदलवा सकते हैं,
00:15:07और फिर आपके पूरे VPS या मशीन को अपने कंट्रोल में ले सकते हैं।
00:15:10इस तरह की चीज़ें हो सकती हैं।
00:15:15तो यहाँ 'एक्सेस राइट्स' (पहुँच के अधिकार) बहुत अहम हैं और सैंडबॉक्सिंग इसका एक मुख्य हिस्सा है।
00:15:19पर सिर्फ इतना काफी नहीं है।
00:15:29आप अपने बॉट को ऐसे कॉन्फ़िगर कर सकते हैं कि वह सैंडबॉक्स मोड में कुछ भी करने से पहले आपसे मंज़ूरी माँगे।
00:15:31पर यह उस बॉट के मकसद को ही खत्म कर देता है जो आपके पीछे से चुपचाप काम करे,
00:15:39क्योंकि आपको हर छोटे-बड़े काम के लिए बार-बार मंज़ूरी देनी होगी।
00:15:44और यह इतना झुंझलाहट भरा हो सकता है कि आप शायद देखना ही छोड़ दें कि वह किस बात की मंज़ूरी माँग रहा है,
00:15:49आप बस 'OK' करते जाएँगे या फिर परेशान होकर इस फीचर को ही बंद कर देंगे।
00:15:55क्योंकि अगर हर चीज़ मैन्युअली ही करनी है, तो वो बॉट किसी काम का नहीं रह जाता।
00:16:01इन सुरक्षा समस्याओं और किसी सुरक्षित इस्तेमाल के तरीके को न ढूँढ पाने की वजह से,
00:16:04मैं इस स्थिति में पहुँचा हूँ कि मैं अब OpenClaw का इस्तेमाल नहीं कर रहा।
00:16:12हो सकता है आपके लिए यह अलग हो। मैंने कई लोगों के पोस्ट पढ़े हैं जो इसे लेकर बहुत उत्साहित हैं।
00:16:14और हाँ, मुमकिन है कि पर्सनल AI असिस्टेंट्स का भविष्य कुछ ऐसा ही दिखे।
00:16:21यह भी मुमकिंन है कि आगे चलकर बेहतर सुरक्षा तकनीकें आएँ जो बार-बार मंज़ूरी न माँगें,
00:16:26या उस प्रक्रिया को इतना आसान बना दें कि आप इसे सुरक्षित तरीके से चला सकें।
00:16:33यह सब संभव है।
00:16:36मैं इसे पूरी तरह खारिज नहीं करूँगा।
00:16:42और इसमें कोई शक नहीं कि एक अकेले डेवलपर के लिए ऐसा टूल बनाना एक बड़ी उपलब्धि है।
00:16:47हालाँकि कोड की बिल्कुल भी समीक्षा न करने की अपनी एक कीमत होती है, जो इसमें मौजूद बग्स और सुरक्षा खामियों से पता चलती है।
00:16:49ऐसा नहीं है कि रिव्यू करने से सारी समस्याएँ खत्म हो जातीं, पर
00:16:52कोड को बिल्कुल न देखना भी मेरी नज़र में सही नहीं है।
00:16:59फिर भी, यह एक शानदार कोशिश है। और अगर आप सोच रहे हैं कि OpenAI
00:17:00या Google ऐसा कोई प्रोडक्ट क्यों नहीं लाए, तो शायद इसकी वजह सिर्फ इनोवेशन की कमी नहीं है,
00:17:01बल्कि यह भी है कि ऐसा टूल अभी सिर्फ बिना किसी कानूनी ज़िम्मेदारी के ओपन सोर्स सॉफ्टवेयर के रूप में ही चल सकता है।
00:17:09Google जैसी कंपनी इतनी ज़्यादा अनुमतियों के साथ ऐसा कुछ नहीं बेच सकती।
00:17:14पर हो सकता है कि यही वो शुरुआत हो जो भविष्य में हमें ज़्यादा सुरक्षित
00:17:19और उपयोगी AI असिस्टेंट्स की ओर ले जाए।
00:17:26और Moltbook के बारे में संक्षेप में कहूँ तो, वह मुझे बिल्कुल समझ नहीं आया।
00:17:29कहा गया था कि यह सिर्फ AI के लिए एक सोशल नेटवर्क है, पर बाद में पता चला कि यह
00:17:33काफी हद तक नकली था और इंसानों द्वारा ही चलाया जा रहा था।
00:17:38इसमें सुरक्षा की बहुत बड़ी खामियाँ थीं। मुझे लगता है कि AI के जितने अच्छे इस्तेमाल हैं,
00:17:39उतने ही बुरे भी हो सकते हैं।
00:17:44मेरी नज़र में दुनिया को इस चीज़ की कोई ज़रूरत नहीं है।
00:17:52लेकिन हाँ, OpenClaw वाकई दिलचस्प है, शायद आपके लिए उपयोगी भी हो,
00:17:58पर फिलहाल यह मेरे बस की बात नहीं है।
00:18:01Combine these things and you end up with a situation where I'm just not using OpenClaw
00:18:06anymore.
00:18:07And of course that can be different for you and I read many posts of people that were super
00:18:11excited and yeah, it's possible that the future of personal AI powered assistance looks something
00:18:18like this.
00:18:19It's possible that better security mechanisms can be introduced and can be invented that
00:18:27don't require your constant approval for everything or that make that approval process easier and
00:18:34therefore allow you to securely run assistance like this.
00:18:38That is all possible.
00:18:39I wouldn't rule out that this happens.
00:18:43And of course it is an impressive feat that a single developer built this tool.
00:18:48Though of course not looking at the code at all does have its price as many bugs and security
00:18:56problems certainly also show.
00:18:59Not that software wouldn't have any security problems if you would review everything but
00:19:05it certainly in my opinion doesn't help if you don't look at the code at all.
00:19:09But nonetheless it's an impressive feat and if you ask yourself the question why OpenAI
00:19:14or Google didn't come up with a product like this, the reason may be a lack of innovation
00:19:20but of course it's also the fact that a tool like this can right now only exist as open
00:19:26source software without any legal obligations because this thing is not something Google
00:19:34could sell or run for you with broad permissions.
00:19:38But of course it's definitely possible that this is the initial spark that gives us safer
00:19:44maybe more useful personal AI powered assistance in the future.
00:19:50And just to also briefly mention Moltbook, that is a thing I totally did not understand.
00:19:58It was meant to be a social network, I read it for AIs only, it turned out that it was
00:20:05actually very human orchestrated and quite a bit fake as I understand it and it had gapping
00:20:14security issues and yeah I don't know, AI has positive use cases or positive implications
00:20:24I guess, AI has a lot of negative implications.
00:20:29This thing here is not something the world needs in my opinion.
00:20:33But yeah, OpenClaw, definitely interesting, maybe super useful for you, definitely not
00:20:41my cup of tea coffee right now.

Key Takeaway

OpenClaw जैसे AI एजेंट हालांकि प्रभावशाली हैं, लेकिन गंभीर सुरक्षा जोखिम और प्रॉम्प्ट इंजेक्शन की संभावना उन्हें वर्तमान में व्यक्तिगत डेटा के लिए असुरक्षित बनाती है।

Highlights

वक्ता OpenClaw (पूर्व में Clodbot) के साथ अपने व्यक्तिगत अनुभवों और संदेहों को साझा करता है।

AI एजेंटों को अधिक 'अनुमतियाँ' (permissions) देने से जुड़े सुरक्षा जोखिमों पर गंभीर चिंता व्यक्त की गई है।

प्रॉम्प्ट इंजेक्शन (Prompt Injection) को एक अपरिहार्य खतरे के रूप में देखा गया है जिससे डेटा चोरी संभव है।

सैंडबॉक्सिंग और VPS का उपयोग सुरक्षा के लिए ज़रूरी है, लेकिन यह उपयोगकर्ता अनुभव को कठिन बना सकता है।

वक्ता के अनुसार, OpenClaw अभी आम उपयोगकर्ताओं के लिए पूरी तरह से उपयोगी या सुरक्षित नहीं है।

Moltbook जैसे AI सोशल नेटवर्क को व्यर्थ और सुरक्षा खामियों से भरा बताया गया है।

Timeline

OpenClaw का परिचय और सहायक की सादृश्यता

वक्ता OpenClaw के बारे में चर्चा शुरू करता है, जो हाल ही में इंटरनेट पर चर्चा का विषय बना हुआ है। वह एक 'मिलनसार सहायक' की सादृश्यता का उपयोग करके समझाता है कि कैसे एक AI को काम करने के लिए घर और कार की चाबियों जैसी अनुमतियों की आवश्यकता होती है। मुख्य समस्या यह है कि यह सहायक गलत फैसले ले सकता है, जैसे घर साफ करने के लिए उसमें आग लगा देना। यदि हम सुरक्षा के लिए अनुमतियाँ वापस लेते हैं, तो उपकरण की उपयोगिता कम हो जाती है। यह खंड AI एजेंटों के प्रति वक्ता के शुरुआती अविश्वास और संतुष्टि की कमी को स्पष्ट रूप से दर्शाता है।

सेटअप प्रक्रिया और उपयोग के मामले (Use Cases)

वक्ता ने अपने अनुभव के लिए एक व्यक्तिगत VPS (Hostinger या अन्य) पर OpenClaw इंस्टॉल किया। उन्होंने इसे ChatGPT+ और टेलीग्राम बॉट से जोड़ा ताकि वे इसका परीक्षण कर सकें। हालांकि अन्य लोग इसका उपयोग उड़ानें बुक करने या रिसर्च के लिए कर रहे हैं, वक्ता को इसे अपना क्रेडिट कार्ड एक्सेस देने में डर महसूस हुआ। वह Gemini और ChatGPT के डीप रिसर्च टूल्स से पहले ही खुश है, इसलिए उसे OpenClaw में कोई विशेष अतिरिक्त लाभ नहीं दिखा। यह हिस्सा व्यक्तिगत सुरक्षा प्राथमिकताओं और मौजूदा AI टूल्स के साथ तुलना पर केंद्रित है।

सुरक्षा खामियाँ और प्रॉम्प्ट इंजेक्शन का खतरा

यह खंड वीडियो का सबसे महत्वपूर्ण हिस्सा है जहाँ सुरक्षा मुद्दों, विशेष रूप से प्रॉम्प्ट इंजेक्शन पर चर्चा की गई है। वक्ता का तर्क है कि 'अभी तक कुछ बुरा नहीं हुआ' इसका मतलब यह नहीं है कि सिस्टम सुरक्षित है। लार्ज लैंग्वेज मॉडल्स (LLMs) अप्रत्याशित होते हैं और प्रॉम्प्ट इंजेक्शन से 100% सुरक्षा तकनीकी रूप से असंभव है। वह 'ClawHub' और 'Skills' जैसे फीचर्स के माध्यम से होने वाले सप्लाई चेन हमलों की चेतावनी देता है। कोई भी दुर्भावनापूर्ण वेबसाइट या ईमेल जिसे बॉट पढ़ता है, वह एक गुप्त निर्देश के रूप में बॉट को नियंत्रित कर सकता है।

डेटा चोरी और सैंडबॉक्सिंग की सीमाएँ

वक्ता सुझाव देता है कि सुरक्षित रहने के लिए इसे मुख्य कंप्यूटर के बजाय VPS या सैंडबॉक्स (Docker कंटेनर) में चलाना चाहिए। वह बताता है कि हार्ड ड्राइव डिलीट होने से भी बड़ा खतरा डेटा चोरी (Data exfiltration) का है, जहाँ हमलावर पासवर्ड और गुप्त जानकारी निकाल सकते हैं। प्रॉम्प्ट इंजेक्शन के जरिए हमलावर आपके VPS को DDoS हमलों के लिए बॉट में बदल सकते हैं। यदि उपयोगकर्ता सुरक्षा के लिए हर कदम पर मंज़ूरी (approval) सेट करता है, तो बॉट का स्वचालित होने का उद्देश्य ही खत्म हो जाता है। यह खंड सुरक्षा और सुविधा के बीच के कठिन संतुलन को उजागर करता है।

निष्कर्ष और Moltbook पर विचार

निष्कर्ष में वक्ता स्वीकार करता है कि एक एकल डेवलपर के लिए OpenClaw बनाना एक बड़ी उपलब्धि है, लेकिन सुरक्षा की कीमत पर नहीं। वह बताता है कि Google या OpenAI जैसे बड़े संस्थान कानूनी ज़िम्मेदारियों के कारण ऐसे व्यापक एक्सेस वाले टूल्स नहीं लॉन्च कर सकते। अंत में, वह Moltbook का ज़िक्र करता है और इसे एक 'नकली' और असुरक्षित AI सोशल नेटवर्क बताकर खारिज कर देता है। वक्ता का अंतिम संदेश यह है कि हालांकि यह भविष्य की एक झलक हो सकती है, लेकिन फिलहाल यह उसके उपयोग के लिए सही नहीं है। वह दर्शकों को सलाह देता है कि वे इसे बहुत सावधानी से और केवल अलग किए गए वातावरण में ही इस्तेमाल करें।

Community Posts

View all posts