스크립트
00:00:00एन्थ्रोपिक ने हाल ही में डीपसीक, किम्मी, क्वेन, जीएलएम और लगभग हर चीनी मॉडल पर निशाना साधा है,
00:00:04और उन पर न केवल अपने मॉडल तैयार करने का आरोप लगाया है, बल्कि चुपचाप अपने
00:00:08ग्राहक अनुरोधों को क्लाउड ओपस पर अग्रेषित करने और उन उपयोगकर्ताओं को ऐसे जवाब दिखाने का आरोप लगाया है जैसे कि वे उनके अपने मॉडल से आए हों।
00:00:13ओह, उन्हें ऐसे देशों के भी सबूत मिले हैं जो ड्रोन स्वार्म बनाने,
00:00:17पानी के नीचे युद्ध की योजना बनाने, घरेलू निगरानी और बहुत कुछ करने के लिए क्लाउड का उपयोग कर रहे हैं,
00:00:20लेकिन सच कहूं तो, मैं उन चीज़ों के बारे में नहीं सोचने वाला हूँ और बस अपने बचे हुए समय का आनंद लेना चाहता हूँ।
00:00:29अब, मैं यह बताना चाहता हूँ कि डिस्टिलेशन क्या है, क्योंकि यह अपने आप में अवैध नहीं है।
00:00:33वास्तव में, यह एक बहुत ही सामान्य प्रशिक्षण तकनीक है। आप एक बड़ा, सक्षम शिक्षक मॉडल लेते हैं,
00:00:37इससे बहुत सारे प्रॉम्प्ट के उत्तर जनरेट करवाते हैं, और उन उत्तरों पर एक छोटे मॉडल को प्रशिक्षित करते हैं।
00:00:42हर लैब अपने मॉडल के साथ ऐसा करती है, और इसी तरह आप हाइकु जैसे सस्ते संस्करण बनाते हैं।
00:00:46हालाँकि, एन्थ्रोपिक जिसे अवैध डिस्टिलेशन कह रहा है, वह किसी अन्य व्यक्ति के मॉडल के साथ
00:00:49औद्योगिक पैमाने पर, अनुमति के बिना, और ऐसा करने के लिए धोखाधड़ी का उपयोग करना है।
00:00:53वे हज़ारों खाते बनाते हैं, चोरी किए गए क्रेडिट कार्ड, चोरी की गई एपीआई कुंजियाँ और आवासीय प्रॉक्सी का उपयोग करते हैं।
00:00:58रिपोर्ट में, एन्थ्रोपिक इन प्रॉक्सी नेटवर्क को ट्रांसफर स्टेशन कहता है,
00:01:02और वे चीनी लैब और एन्थ्रोपिक के एपीआई के बीच बैठकर सामान्य ग्राहकों होने का नाटक करते हैं।
00:01:07फरवरी में, एन्थ्रोपिक ने वास्तव में इसी बात के लिए डीपसीक, मूनशॉट और मिनीमैक्स को आड़े हाथों लिया था,
00:01:11और पाया कि उन तीनों ने 24,000 से अधिक फर्जी खातों का उपयोग किया था, जिसमें क्लाउड के साथ 16 मिलियन आदान-प्रदान हुए थे,
00:01:17लेकिन अब यह रिपोर्ट इस बात पर केंद्रित है कि उन्होंने तब से क्या पाया है, और यह बहुत बुरा हो गया है।
00:01:21इस रिपोर्ट में वास्तव में प्रति लैब एक केस फाइल है, लेकिन मैं सबसे बड़ी वाली से शुरुआत करूंगा,
00:01:24क्योंकि एन्थ्रोपिक का कहना है कि यह उनके द्वारा मापा गया अब तक का सबसे बड़ा डिस्टिलेशन हमला है,
00:01:28और इसका अपराधी अलीबाबा है, जो क्वेन मॉडल का निर्माता है।
00:01:31उनका कहना है कि इस साल मई से जुलाई के बीच, एन्थ्रोपिक ने 151 मिलियन से अधिक आदान-प्रदानों की गिनती की,
00:01:36जिसमें प्रतिदिन लगभग 3 मिलियन अनुरोधों का शिखर शामिल था, और 3,500 से अधिक फर्जी खातों का उपयोग किया गया था।
00:01:41हालाँकि यहाँ दिलचस्प बात यह है कि जाहिरा तौर पर वे क्लाउड के अंतिम उत्तर के पीछे नहीं थे,
00:01:44वे विशेष रूप से विचार प्रक्रिया (चेन ऑफ थॉट) चाहते थे।
00:01:46पाइपलाइन ने प्रत्येक अनुरोध में एक निश्चित प्रॉम्प्ट डाला,
00:01:49जिसने क्लाउड ओपस 4.6 और 4.7 को उत्तर देने से पहले इनलाइन टेक्स्ट टैग में अपने तर्क लिखने के लिए मजबूर किया,
00:01:55और फिर वे उस डेटा को निकालते, उसे सुपरवाइज्ड फाइन-ट्यूनिंग डेटा में बदलते,
00:01:59जिसे एन्थ्रोपिक के अनुसार, क्वेन 3.5, 3.6 और 3.7 को प्रशिक्षित करने के लिए इस्तेमाल किया गया था।
00:02:04जाहिरा तौर पर यह हमला एजेंटिक कार्य पर काफी हद तक केंद्रित था,
00:02:07इसलिए सॉफ्टवेयर इंजीनियरिंग, कर्नेल विकास और लंबे क्षितिज वाले कार्य,
00:02:10तो यह सब क्वेन को कोडिंग में बेहतर बनाने के लिए था।
00:02:12एन्थ्रोपिक आगे यह दावा करता है कि अलीबाबा अपने स्वयं के सुदृढीकरण
00:02:16शिक्षण वातावरण को बनाने और वास्तुकला अनुसंधान करने के लिए क्लाउड का उपयोग कर रहा था,
00:02:19और जब एन्थ्रोपिक ने 5,000 खातों के पहले पूल पर प्रतिबंध लगा दिया,
00:02:21तो उनका ट्रैफ़िक दूसरे पूल में चला गया, जो डीपसीक और श्याओमी के अनुरोधों को भी संभाल रहा था,
00:02:26इसलिए वही प्रॉक्सी नेटवर्क कई लैब की सेवा कर रहे हैं।
00:02:29हालाँकि मैं यहाँ एक अंदाज़ा लगाऊँगा, और कहूँगा कि एन्थ्रोपिक को डिस्टिलेशन हमले का शिकार होने के लिए
00:02:32ज़्यादा सहानुभूति नहीं मिलेगी,
00:02:34क्योंकि अधिकांश लोग सोचते हैं कि उन्होंने पहले पूछे बिना मानव ज्ञान के सभी पहलुओं को डिस्टिल किया,
00:02:38इसलिए मुझे लगता है कि अब उन्हें पता चल गया है कि वह कैसा महसूस होता है।
00:02:41अब आगे बढ़ते हुए अगली लैब की ओर जिस पर उन्होंने इस रिपोर्ट में आरोप लगाया है,
00:02:43हमारे पास मूनशॉट है, जो किम्मी के निर्माता हैं, जो मेरे पसंदीदा मॉडलों में से एक है।
00:02:46एन्थ्रोपिक का दावा है कि मूनशॉट ने किम्मी के माध्यम से चलाने के बजाय
00:02:50चुपचाप ग्राहक अनुरोधों को क्लाउड के माध्यम से आगे बढ़ाया, और उपयोगकर्ता को क्लाउड की प्रतिक्रिया दिखाई।
00:02:53इसलिए उपयोगकर्ता को लगा कि वे किम्मी से बात कर रहे हैं, लेकिन वास्तव में वे इसके बजाय ओपस का उपयोग कर रहे थे।
00:02:58जाहिरा तौर पर एक 10-दिवसीय खिड़की में, लगभग 300,000 ग्राहक अनुरोध थे
00:03:01जो 5,380 फर्जी खातों के प्रॉक्सी नेटवर्क के माध्यम से चलाए गए थे,
00:03:05जो ज्यादातर सिंगापुर और जापान के प्रतीत होते थे।
00:03:08मई से जुलाई के दौरान, एन्थ्रोपिक कुल मिलाकर मूनशॉट को 23 मिलियन से अधिक एक्सचेंजों का श्रेय देता है।
00:03:13 उनका कहना है कि ऐसा करने के पीछे मूनशॉट का तर्क अलीबाबा के समान है,
00:03:16तर्क डेटा को निकालना।
00:03:18जाहिरा तौर पर मूनशॉट ने क्लाउड के
00:03:20चेन ऑफ थॉट ट्रांसक्रिप्ट को उन सहेजे गए रिले एक्सचेंजों से निकालने के लिए एक निष्कर्षण पाइपलाइन बनाई ताकि इसके अपने मॉडल प्रशिक्षित हो सकें।
00:03:25एन्थ्रोपिक ने aparentemente सोचा था कि इसके खिलाफ उनके पास एक बचाव है,
00:03:27क्योंकि जब क्लाउड विस्तारित सोच करता है, तो एपीआई अब कच्चे तर्क को वापस नहीं करता है,
00:03:31यह एक सोच हस्ताक्षर (थिंकिंग सिग्नेचर) लौटाता है, जो एक संदर्भ है जिसे एपीआई बाद में उपयोग कर सकता है
00:03:35यदि आवश्यकता हो तो उस तर्क को देखने के लिए, लेकिन आपको उसे देखने में सक्षम नहीं होना चाहिए।
00:03:39हालाँकि मूनशॉट ने जो किया वह उस हस्ताक्षर को सहेजना था,
00:03:42एक बिल्कुल नया सत्र शुरू करना, और फिर क्लाउड से हस्ताक्षर को
00:03:44वापस एक पूर्ण तर्क ट्रेस में परिवर्तित करना था।
00:03:46एन्थ्रोपिक इसे क्रॉस-सेशन रीप्ले अटैक कह रहा है,
00:03:49और मूनशॉट ने इसके चारों ओर एक पूरी पाइपलाइन बनाई।
00:03:51इन सबके अलावा, वे यह भी बताते हैं कि उन अग्रेषित अनुरोधों में डेटा
00:03:54सैकड़ों कैमरों से सीसीटीवी निगरानी डेटा लोड करने
00:03:57और किम्मी से यह पूछने जैसी चीजें थीं कि क्या ट्रैक किया गया कोई व्यक्ति असामान्य रूप से व्यवहार कर रहा था,
00:04:02और उन्होंने एक चीनी राज्य-स्वामित्व वाले उद्यम में एक इंजीनियर को भी पाया
00:04:05जो कई बड़ी तकनीकी कंपनियों के आंतरिक कोड और लाइव क्रेडेंशियल पेस्ट कर रहा था।
00:04:10शामिल हर व्यक्ति की ओर से यह डेटा हैंडलिंग बिल्कुल ही भयानक है।
00:04:14अब मूनशॉट के साथ-साथ, उन्होंने यह भी पाया कि डीपसीक बिल्कुल वही काम कर रहा था
00:04:17उसी क्रॉस-सेशन रीप्ले ट्रिक और थिंकिंग सिग्नेचर के साथ,
00:04:20और ओपस के माध्यम से ग्राहक अनुरोधों को अग्रेषित कर रहा था।
00:04:23लेकिन डीपसीक इसके ऊपर जो कर रहा था, वह यह विश्लेषण करना था कि आपके अनुरोध को देखकर आप किस हार्नेस का उपयोग कर रहे थे,
00:04:27और यदि आप क्लाउड कोड जैसे टूल का उपयोग कर रहे थे,
00:04:30क्लाउड एजेंट एसडीके, या ओपनकोड, तो आपके अनुरोधों को क्लाउड ओपस पर रूट किया जाता,
00:04:34इस विचार के साथ कि यदि आप उन उपकरणों में से किसी एक का उपयोग कर रहे थे,
00:04:37तो आप शायद एजेंटिक कोडिंग डेटा का एक अच्छा स्रोत थे,
00:04:39जिसे वे अब ओपस के उत्तरों के साथ एकत्र कर सकते हैं और उस पर अपने स्वयं के मॉडल प्रशिक्षित कर सकते हैं।
00:04:43डीपसीक के लिए, एन्थ्रोपिक का कहना है कि यह जुलाई में 14 दिनों तक हुआ,
00:04:46और लगभग 12.1 मिलियन एक्सचेंज थे।
00:04:48उन्होंने यह भी पाया कि मूनशॉट के समान,
00:04:50डीपसीक कुछ बहुत ही संवेदनशील डेटा लीक कर रहा था।
00:04:52उन्होंने एक चीनी तकनीकी कंपनी के एक कर्मचारी को आंतरिक दस्तावेजों का विश्लेषण करते हुए देखा,
00:04:56जिसमें एक प्रमुख एआई कार्यक्रम का पूरा विनिर्देश और संगठन संरचना शामिल थी।
00:05:00यह उनके रक्षा मंत्रालय से जुड़ी एक रूसी एजेंसी के लिए काम करने वाला एक आईटी ऑपरेटर भी था,
00:05:04अनुरोध में एक सरकारी डेटाबेस के लिए लाइव क्रेडेंशियल के साथ,
00:05:08और नगर निगम पुलिस ब्यूरो के लिए एक केस प्रबंधन टूल बनाने वाले इंजीनियर भी थे
00:05:11जो राष्ट्रीय आईडी नंबर द्वारा पुलिस रिकॉर्ड के खिलाफ लोगों की आवाजाही का मिलान करते थे।
00:05:15मुझे वास्तव में यह सोचना शुरू हो रहा है कि विनाश की वह 10% संभावना बिल्कुल उचित है।
00:05:20कृपया एआई के साथ इस तरह की चीजें न करें।
00:05:22अब वे बड़े दावे थे, लेकिन चार और छोटे दावे हैं।
00:05:25सबसे पहले, हमारे पास ZAI है, जो GLM के निर्माता हैं,
00:05:27जिन्होंने जाहिरा तौर पर ओपस 4.8 से तर्क ट्रेल्स को बाहर निकालने के लिए 273 फर्जी खातों के माध्यम से चक्र घुमाया,
00:05:33फिर अपने स्वयं के प्रशिक्षण के लिए उन्हें साफ करने के लिए क्लाउड के माध्यम से कब्जा किए गए ट्रेल्स को वापस चलाया।
00:05:36जाहिरा तौर पर, यह 17 दिनों के अंतराल में 3.4 मिलियन से अधिक एक्सचेंज थे।
00:05:41उन्होंने यह भी देखा कि जीएलएम 5.3 सामने आने से ठीक पहले,
00:05:44ZAI फेबल की साइबर क्षमताओं को डिस्टिल करने की कोशिश कर रहा था,
00:05:47लेकिन हार मान ली क्योंकि फेबल की सुरक्षा उपायों ने हमले को लगातार तोड़ दिया,
00:05:50और एन्थ्रोपिक का कहना है कि उन्होंने ZAI कर्मचारियों को ओपस 4.6 पर स्विच करते हुए देखा,
00:05:54और किसी अन्य अमेरिकी लैब के शीर्ष मॉडल पर,
00:05:55विशेष रूप से इसलिए क्योंकि उन्होंने निर्णय लिया था कि सुरक्षा उपाय कमजोर थे।
00:05:58तो, उस रिपोर्ट में फेबल के सुरक्षा उपायों की थोड़ी सी बड़ाई की गई है।
00:06:01इसके बाद, वे MIMO मॉडल के निर्माता श्याओमी पर आरोप लगाते हैं,
00:06:05प्रशिक्षण डेटा उत्पन्न करने के लिए क्लाउड के माध्यम से अपने स्वयं के उपयोगकर्ताओं के कोडिंग सत्रों को रीप्ले करने का।
00:06:09यह जाहिरा तौर पर 1,500 खातों में 400,000 से अधिक अनुरोध थे,
00:06:13और एन्थ्रोपिक यहाँ तक सुझाव देता है कि MIMO V2 Pro 3 परीक्षण लॉन्च किया गया होगा
00:06:16और फिर अंतरराष्ट्रीय डेवलपर्स को खींचने के लिए विस्तारित किया गया होगा ताकि रीप्ले करने के लिए अधिक सत्र हों,
00:06:21क्योंकि हमलों का अधिकांश हिस्सा उस परीक्षण के समाप्त होने के ठीक बाद शुरू हुआ था।
00:06:24इसके बाद, वे सेंसटाइम नामक कंपनी पर आरोप लगाते हैं,
00:06:27जो जाहिरा तौर पर तीसरे पक्ष के डेटा विक्रेताओं से लोगों की क्लाउड बातचीत के ट्रांसक्रिप्ट खरीदती है।
00:06:32तो, वे प्रॉक्सी सेवाएं जो आपको एक असमर्थित तरीके से क्लाउड एक्सेस बेचती हैं
00:06:35वास्तव में आपके डेटा को लॉग कर रही थीं और इसे बेच रही थीं,
00:06:38विशेष रूप से वे जो शायद एन्थ्रोपिक के दाम से कम कीमत ले रही थीं।
00:06:41अंत में, चूँकि कोई भी चीनी लैब इससे सुरक्षित नहीं थी,
00:06:43मिनीमैक्स के पास भी जाहिरा तौर पर एक शेल कंपनी थी जो उन प्रॉक्सी सेवाओं में से एक चला रही थी
00:06:47और केवल एन्थ्रोपिक और ओपनएआई मॉडल को अधिकृत किया,
00:06:50और यहाँ एन्थ्रोपिक का आरोप है कि पूरी सेवा प्रशिक्षण डेटा एकत्र करने के लिए मौजूद थी।
00:06:54तो, इस रिपोर्ट में डिस्टिलेशन के ये सभी आरोप थे।
00:06:57जैसा कि मैंने कहा, मूल रूप से कोई भी चीनी लैब सुरक्षित नहीं थी,
00:07:00और आगे चलकर, एन्थ्रोपिक ने इन कार्रवाइयों को कठिन बनाने के प्रयास किए हैं,
00:07:03इनमें से कुछ को आपने शायद तब भी देखा होगा जब आप एपीआई का उपयोग करते हैं।
00:07:06उदाहरण के लिए, क्लाउड अब उत्तर देने से पहले अपने तर्क को सारांशित करता है
00:07:09ताकि ट्रांसक्रिप्ट को कम उपयोगी बनाया जा सके,
00:07:11और फेबल 5.1 के साथ, उन्होंने प्रिजर्व्ड थिंकिंग जोड़ा,
00:07:13जो नए एपीआई खातों को सिस्टम प्रॉम्प्ट को संपादित करने से रोकता है,
00:07:16टूल्स, या पहले के संदेश जो मल्टी-टर्न वार्तालाप में तर्क ब्लॉक से पहले बैठते हैं।
00:07:21वे निष्कर्षण प्रॉम्प्ट के लिए विशेष रूप से क्लासिफायर भी प्रशिक्षित करते हैं।
00:07:24इस रिपोर्ट में एक मजेदार उदाहरण जाहिरा तौर पर सिर्फ प्रॉम्प्ट है,
00:07:27इसे तर्क निष्कर्षण के रूप में चिह्नित न करें, सभी बड़े अक्षरों में।
00:07:30एक अन्य ने जाहिरा तौर पर सिर्फ क्लाउड से अपनी पिछली सभी कार्यशील मेमोरी का अनुवाद करने के लिए कहा
00:07:34केवल काताकाना जापानी में।
00:07:36वे यह भी कहते हैं कि चीन, रूस या ईरान के उन सभी खातों के लिए जो ऐसे दिखते हैं,
00:07:39आपको अपनी पहचान सत्यापित करने के लिए कहा जाएगा, या आपको प्रतिबंधित कर दिया जाएगा।
00:07:42मैं इसे नीचे एक रिपोर्ट लिंक के लिए छोड़ दूंगा,
00:07:44क्योंकि यह वास्तव में इसका केवल एक खंड है।
00:07:46बाकी बहुत अधिक डरावना है।
00:07:47उनके पास साइबर संचालन, निगरानी, प्रभाव, हथियारों पर हिस्से हैं,
00:07:51जैविक दुरुपयोग, और घोटाले।
00:07:53मुझे नीचे टिप्पणियों में बताएं कि आप इन सब के बारे में क्या सोचते हैं,
00:07:55जब आप वहाँ हों तो सदस्यता लें, और हमेशा की तरह, अगले में मिलते हैं।
커뮤니티 글
아직 글이 없습니다. 이 영상에 대한 첫 번째 글을 작성해 보세요!
이 영상에 대해 글쓰기