Transcript
00:00:00यह क्लॉ पैट्रोल (Claw Patrol) है, जो डिनो टीम द्वारा बनाया गया एक ओपन-सोर्स सुरक्षा फ़ायरवॉल है, जो
00:00:04आपके एआई एजेंटों और इंटरनेट के बीच काम करता है, और यह एआई एजेंटों की तीन मुख्य सुरक्षा समस्याओं को हल करता है।
00:00:09पहुँच का मतलब असली नियंत्रण नहीं है, आपके एजेंट को गुप्त जानकारी नहीं देखनी चाहिए, और आप यह नहीं देख सकते कि आपके एजेंट ने
00:00:14क्या किया। मैं हाल ही में कई एआई एजेंट सुरक्षा टूल आज़मा रहा हूँ, और मुझे क्लॉ पैट्रोल द्वारा अपनाया गया
00:00:19जो तरीका Claw Patrol ने अपनाया है, वह मुझे बहुत पसंद है, लेकिन यह अभी पूरी तरह से सही नहीं है। तो Claw Patrol कैसे काम करता है, इसके लिए
00:00:28आपके पास गेटवे नाम का एक सर्वर होता है, जिसमें आपके नियम, क्रेडेंशियल्स, लॉग्स और Claw Patrol
00:00:32का डैशबोर्ड होता है, और फिर आप कितनी भी मशीनों पर एजेंट्स चला सकते हैं, और वे
00:00:36उस गेटवे से जुड़ सकते हैं और अपने एजेंट ट्रैफ़िक को उसके माध्यम से रूट कर सकते हैं। वास्तव में, आप चुन सकते हैं कि एकल कमांड
00:00:40को गेटवे के ज़रिए चलाना है, या आप अपनी पूरी मशीन को जोड़ सकते हैं। मेरे मामले में, मेरा गेटवे केवल एक Ubuntu
00:00:45सर्वर है, जिससे मैं Tailscale के साथ कनेक्ट करता हूँ, जिसे Claw Patrol बॉक्स के बाहर सपोर्ट करता है, साथ ही
00:00:50WireGuard या दोनों, और मेरे एजेंट्स मेरा Mac और मेरा OpenClaw सर्वर हैं। मैं OpenClaw गेटवे को
00:00:55Claw Patrol के माध्यम से चला रहा हूँ, और अपने Mac पर मैं बस जब भी ज़रूरत होती है, Clawd के साथ सिंगल रन कमांड का उपयोग करता हूँ।
00:01:00इस थोड़े से संदर्भ के साथ, आइए उन तीन मुख्य समस्याओं को देखें जिन्हें Claw Patrol हल करता है, और मैं
00:01:04वास्तव में नंबर दो से शुरुआत करूँगा, जो यह है कि आपके एजेंट्स को सीक्रेट्स नहीं देखने चाहिए, क्योंकि यह अन्य
00:01:09समस्याओं की ओर ले जाता है। तो Claw Patrol गेटवे पर, आप Postgres यूज़र्स जैसे क्रेडेंशियल्स कॉन्फ़िगर कर सकते हैं,
00:01:14Clawd सब्सक्रिप्शन, GitHub अकाउंट्स, और कोई भी बेयरर टोकन या कस्टम हेडर, जैसा कि मैंने यहाँ अपने
00:01:19प्रोडक्शन API सर्वर के लिए किया है। इसके साथ, जब हम अपने एजेंट्स को Claw Patrol के उस
00:01:25रन कमांड, तो उन्हें अनुरोधों को काम करने के लिए इनमें से किसी भी क्रेडेंशियल की आवश्यकता नहीं होती है। वे बस
00:01:30इंजेक्ट कर दिए जाएंगे जब वह अनुरोध गेटवे से होकर गुजरेगा। तो अगर मैं क्लॉ से मेरे एपीआई और मेरे
00:01:35डेटाबेस का उपयोग करके मुझे इन दोनों का अवलोकन देने के लिए कहूँ, तो यह बिना किसी समस्या के ऐसा करने में सक्षम है, और मैं देख सकता हूँ
00:01:41कमांड जो यह वास्तव में चला रहा है कि इसमें इन कर्ल (curl) अनुरोधों के लिए कोई एपीआई कुंजी शामिल नहीं है,
00:01:46लेकिन इसे एक की आवश्यकता है, और पोस्टग्रेज पर, यह सिर्फ X का एक नकली पासवर्ड उपयोग कर रहा है जो निश्चित रूप से वास्तविक
00:01:51पासवर्ड नहीं है, लेकिन यह अभी भी कनेक्ट हो रहा है और संबंधित जानकारी वापस प्राप्त कर रहा है, क्योंकि गेटवे ने
00:01:56वास्तव में इन अनुरोधों को उठाया है और वास्तविक क्रेडेंशियल संलग्न किए हैं। इसका मतलब है कि एजेंट के पास कभी भी
00:02:00वास्तविक मानों तक पहुँच नहीं होती है, इसलिए यदि किसी ने मेरे एजेंट लॉग देखे या प्रॉम्प्ट इंजेक्शन का प्रयास किया,
00:02:06तो उन्हें ये क्रेडेंशियल कभी नहीं मिलेंगे क्योंकि वे पूरी तरह से एक अलग सर्वर पर रहते हैं, और एजेंट के पास
00:02:10उन तक पहुँचने का कोई तरीका नहीं है। उस इंजेक्शन प्रक्रिया को और भी स्पष्ट रूप से दिखाने के लिए, यदि मैं अपने टर्मिनल पर यह कर्ल अनुरोध चलाता हूँ,
00:02:15यहाँ, आप देख सकते हैं कि इसे अस्वीकार कर दिया गया है क्योंकि मैंने इसे एपीआई कुंजी पास नहीं की थी, लेकिन यदि मैं बिल्कुल
00:02:20वही कमांड क्लॉ पैट्रोल रन के माध्यम से चलाता हूँ, तो डेटा सामान्य रूप से वापस आ जाता है क्योंकि वह एपीआई कुंजी इंजेक्ट की जा रही है।
00:02:26अगली समस्या जिसे क्लॉ पैट्रोल हल करना चाहता है वह यह है कि पहुँच का मतलब क्रिया नियंत्रण नहीं है। क्लॉ पैट्रोल आपको
00:02:31किसी अनुरोध के साथ एक एजेंट क्या कर सकता है, इस पर बहुत सटीक नियंत्रण देता है। उदाहरण के लिए, यदि मैं उस पोस्टग्रेज
00:02:36स्किल का फिर से उपयोग करूँ, लेकिन इस बार मैं इसे एक टेबल ड्रॉप करने और एक नई टेबल बनाने के लिए कहूँ, जब यह चलता है, तो यह तुरंत
00:02:41एक अनुकूलित त्रुटि संदेश लौटाता है जिसे मैंने सेट किया है कि स्कीमा परिवर्तन केवल माइग्रेशन पीआर के माध्यम से ही होते हैं,
00:02:46एजेंट के माध्यम से नहीं। गेटवे ने वास्तव में पोस्टग्रेज अनुरोध की जाँच की है जो मेरे एजेंट ने किया था,
00:02:51और इसे मेरे द्वारा परिभाषित नियमों के सेट के विरुद्ध जाँच की है, और मेरे नियमों में से एक के लिए धन्यवाद, इसने ड्रॉप टेबल अनुरोध को
00:02:56अस्वीकार कर दिया है। एक और तरीका जिससे मैं इसे संभाल सकता हूँ वह है 'ह्यूमन-इन-द-लूप', इसलिए मैं
00:03:00वास्तव में इस नियम को कार्रवाई को मंजूरी देने के लिए मुझसे संपर्क करने के लिए कह सकता हूँ। फिलहाल, यह केवल स्लैक (Slack) का समर्थन करता है,
00:03:04लेकिन जल्द ही और विकल्प भी आने वाले हैं। यहाँ तक कि एक एलएलएम (LLM) को जज के रूप में उपयोग करने का विकल्प भी है,
00:03:09और नियम अविश्वसनीय रूप से अनुकूलन योग्य और लचीले हैं, इसलिए आप नियम भी रख सकते हैं जैसे कि आपके
00:03:13ग्राहक सहायता एपीआई एंडपॉइंट की जाँच करना जो उत्तर भेजता है, और आप देख सकते हैं कि क्या कोई अपमानजनक
00:03:18सामग्री, छूटे हुए अभिवादन, या बस ऐसा कुछ है जिसे आप उस अनुरोध में लीक नहीं करना चाहते हैं। और फिर,
00:03:22गेटवे पर अनुरोध पर यह सब किया जा रहा है, इसका मतलब है कि सैद्धांतिक रूप से यह सब प्रॉम्प्ट इंजेक्शन और लगभग अन्य सभी प्रकार के एआई हमलों से सुरक्षित है।
00:03:27तीसरी समस्या जिसे क्लॉ पैट्रोल हल करता है, वह यह है कि आप देख नहीं सकते कि एजेंट ने क्या किया,
00:03:31लेकिन क्लॉ पैट्रोल के साथ, हर एक अनुरोध यहाँ डैशबोर्ड में दिखाई देता है,
00:03:37और आप सक्रिय सत्रों के साथ-साथ उपयोग किए गए टोकन भी देख सकते हैं, और यदि आप एक अनुरोध पर क्लिक
00:03:42करते हैं, तो आप प्रासंगिक विवरण देख सकते हैं जैसे कि पोस्टग्रेज कमांड जो वास्तव में चलाया गया था,
00:03:46या एपीआई कॉल के मामले में, आप एपीआई अनुरोध के साथ-साथ प्राप्त प्रतिक्रिया भी देख सकते हैं।
00:03:51इस तरह आपको उन व्यक्तिगत सेवाओं के सभी लॉग्स को खोजने में समय बिताने की आवश्यकता नहीं है जिन्हें एजेंट ने
00:03:55यह पता लगाने के लिए छुआ है कि उसने क्या किया, और इसके बजाय आप बस देख सकते हैं कि उसने क्या किया
00:03:59अनुरोध के समय, इसलिए आपको एजेंट द्वारा की जाने वाली लगभग हर चीज देखनी चाहिए।
00:04:03ये वे तीन समस्याएं हैं जिन्हें क्लॉ पैट्रोल हल करना चाहता है, लेकिन यह सब कैसे सेट अप किया जाता है? खैर,
00:04:07एक बार जब आपके पास क्लॉ पैट्रोल इंस्टॉल हो जाता है, तो गेटवे वास्तव में एक एकल एचसीएल (HCL) फ़ाइल के साथ कॉन्फ़िगर किया जाता है।
00:04:12इसमें, आप उन विभिन्न एंडपॉइंट्स को परिभाषित करते हैं जिनके लिए आपके पास नियम और क्रेडेंशियल होंगे,
00:04:16इसलिए मेरे पास ओपनएआई (OpenAI), स्लैक, एसएसएच (SSH), पोस्टग्रेज, और इसी तरह के विभिन्न हैं, इसलिए यदि कोई अनुरोध
00:04:22गेटवे से होकर गुजरता है जो इनमें से किसी से मेल खाता है, तो यह नियमों और क्रेडेंशियल्स की जाँच करना जानता है।
00:04:26जहाँ तक वास्तविक क्रेडेंशियल्स की बात है, तो उसे सेट अप करना भी काफी सीधा है।
00:04:30आप कहते हैं कि यह किस प्रकार का क्रेडेंशियल है, और वह एंडपॉइंट जिससे क्रेडेंशियल का मिलान होना चाहिए।
00:04:34एन्थ्रोपिक (Anthropic) सब्सक्रिप्शन, कोडेक्स (Codex) वाले जैसे कई क्रेडेंशियल प्रकारों का समर्थन है,
00:04:39क्लिकहाउस (ClickHouse), पोस्टग्रेज, और बेयरर टोकन और कस्टम हेडर जैसी मूल बातें भी,
00:04:43इसलिए आपको पता चलेगा कि यह लगभग उन सभी प्रकारों का समर्थन करता है जिनकी आपको आवश्यकता है,
00:04:46और भले ही ऐसा न हो, आप वास्तव में अपना खुद का प्रकार जोड़ने के लिए प्लगइन्स कोड कर सकते हैं।
00:04:50एक बार जब आप यहाँ एक क्रेडेंशियल परिभाषित कर लेते हैं, तो आपको बस वास्तविक मान भरने के लिए
00:04:54डैशबोर्ड पर जाने की आवश्यकता है। नियम सेट करना भी काफी आसान है।
00:04:56आप बस वह एंडपॉइंट कहते हैं जिस पर नियम लागू होने वाला है, और फिर आप नियम लिखते हैं
00:05:00सामान्य अभिव्यक्ति भाषा (Common Expression Language) का उपयोग करके, इसलिए यह एचटीटीपी (HTTP),
00:05:05पोस्टग्रेज, कुबेरनेट्स (Kubernetes), और इसी तरह की बहुत सारी चीजों को कवर कर सकता है। इसके बाद, आप उस नियम के लिए निर्णय बताते हैं जिसे आपने
00:05:09अभी परिभाषित किया है, चाहे आप इसके आधार पर स्वीकार करें या अस्वीकार करें, और यदि आप
00:05:14ब्लॉक लिस्ट के बजाय अलाउ लिस्ट-आधारित दृष्टिकोण बना रहे हैं, तो आप यहाँ स्वीकार (approve) का उपयोग करेंगे, इसलिए आप डिफ़ॉल्ट रूप से सभी को ब्लॉक करेंगे और फिर
00:05:18केवल कुछ चीजों की अनुमति देंगे। हालाँकि, मेरे मामले में, मैंने केवल ब्लॉक लिस्ट विधि का उपयोग किया।
00:05:22अंत में, यहाँ एक और वास्तव में उपयोगी सुविधा प्रोफाइल है। आप वास्तव में अपने क्रेडेंशियल्स को
00:05:26कई प्रोफाइल में समूहबद्ध कर सकते हैं, जिसका अर्थ है कि उन क्रेडेंशियल्स से जुड़े कोई भी नियम और एंडपॉइंट
00:05:31उनके साथ समूहबद्ध हो जाते हैं, और यह आपको अपने एजेंटों और अपनी टीमों के लिए एक तरह का भूमिका-आधारित नियंत्रण
00:05:35सेट करने की अनुमति देता है, इसलिए डेवलपर्स के पास क्रेडेंशियल्स तक कुछ पहुँच और उनके लिए अलग नियम हो सकते हैं,
00:05:40और शायद एक और टीम, जैसे कि सहायता टीम, के पास अलग क्रेडेंशियल और अलग नियम भी हों।
00:05:45जब आप नियम में बदलाव कर रहे हों तो आपकी मदद करने के लिए, वास्तव में एक टेस्ट कमांड है जहाँ आप
00:05:49डैशबोर्ड से नियम क्रियाओं को डाउनलोड कर सकते हैं, और फिर अपने स्थानीय नियम परिवर्तनों के विरुद्ध इसे फिर से चला सकते हैं यह देखने के लिए कि
00:05:54क्या उनमें से किसी ने परिणाम बदल दिया है, इसलिए आप पता लगा सकते हैं कि क्या कोई आकस्मिक लीक होने वाला है।
00:05:59मुझे स्वीकार करना होगा, मैंने वास्तव में इस सेटअप प्रक्रिया को थोड़ा थकाऊ पाया, और मुझे यकीन है कि इसमें
00:06:02जल्द ही सुधार किया जाएगा, क्योंकि यह परियोजना के जीवन में बहुत जल्दी है, लेकिन यदि डैशबोर्ड से क्रेडेंशियल
00:06:07और नियम जोड़ने का कोई आसान तरीका होता, तो वह बिल्कुल अद्भुत होगा। शायद कुछ ऐसा
00:06:11जैसा कि एडगार्ड (AdGuard) काम करता है, जहाँ आप बस एक अनुरोध को आते हुए देख सकते हैं और उस अनुरोध के लिए एक नियम या
00:06:15क्रेडेंशियल जोड़ने के लिए क्लिक कर सकते हैं। मुझे बहुत सारी समस्याओं का भी सामना करना पड़ा जब मैं अपने स्थानीय प्रॉक्समॉक्स (Proxmox) सर्वर पर केवल आईपी पते वाले
00:06:19एंडपॉइंट जोड़ने की कोशिश कर रहा था। किसी कारण से, यह उन अनुरोधों को इंटरसेप्ट नहीं करना चाहता था,
00:06:24और मैं उनमें से किसी को भी डैशबोर्ड पर आते हुए नहीं देख सकता था, और इसने मुझे बस थोड़ा सिरदर्द
00:06:28दिया। इसलिए निश्चित रूप से कुछ सुधारों की आवश्यकता है, या शायद मैं ही इसका गलत उपयोग कर रहा था,
00:06:33लेकिन चाहे जो भी हो, हाँ, उपयोगिता के ऐसे स्तर तक पहुँचने में कुछ काम लगेगा जो आपके प्रवाह में बाधा न डाले,
00:06:38लेकिन यह समझ में आता है क्योंकि यह सब सुरक्षा के बारे में है, न कि सिर्फ एक एजेंट को योलो (YOLO) मोड में भेजने के बारे में।
00:06:43तो नीचे कमेंट में मुझे बताएं कि आप Claw Patrol के बारे में क्या सोचते हैं, और क्या आपके पास अपने एजेंट्स के लिए कोई सिक्योरिटी टूल्स हैं?
00:06:47जब आप नीचे हों, तो सब्सक्राइब करें, और हमेशा की तरह, अगले वीडियो में मिलते हैं।
00:06:51अगले वीडियो में मिलते हैं।
Community Posts
No posts yet. Be the first to write about this video!
Write about this video