एआई एजेंट बनाना आसान है। इसे सुरक्षित साबित करना नहीं - जोनाथन ओसबोर्न, नैटवेस्ट

Highlights

• नेटवेस्ट ग्रुप के पास यूके में लगभग 19 मिलियन खुदरा ग्राहक हैं और इसका प्राथमिक डिजिटल सहायक कोरा प्रतिदिन लगभग 100,000 बातचीत संभालता है.

• एजेंट का वास्तविक निर्माण एक आसान हिस्सा है, जबकि इसे सुरक्षित साबित करना सबसे कठिन चुनौती है.

• पारंपरिक निर्णय वृक्ष प्रसंग परिवर्तन को संभालने में असमर्थ होते हैं, जिससे ग्राहक सेवा के दौरान अक्सर निराशा होती है.

• एजेंटिक बैक समाधान मतिभ्रम, प्रॉम्प्ट इंजेक्शन, गोल-गोल घूमने वाले उत्तर और गैर-deterministic आउटपुट जैसे चार बड़े विफलता मोड पेश करते हैं.

• पेमेंट एजेंट के मूल्यांकन के दौरान खुश पास परिदृश्यों में 97% पास दर मिली, जबकि विषय बदलने वाले मामलों में यह केवल 43 प्रतिशत थी.

Timeline

1. 00:00 - 02:24

   उत्पादन में एआई एजेंट और उनकी चुनौतियाँ

   नेटवेस्ट ग्रुप में लीड एआई इंजीनियर जोनाथन ऑस्बर्न एजेंटों को प्रोटोटाइप से प्रोडक्शन में ले जाने की प्रक्रिया समझाते हैं। बैंक अपने ग्राहकों के साथ संवाद करने के लिए कोरा का उपयोग करता है और अब एक तिहाई यात्राओं को एआई-जनित उत्तरों में बदल रहा है। मॉडल की क्षमता अच्छी होने के बावजूद, 19 मिलियन ग्राहकों वाले विनियमित बैंकिंग वातावरण में एक भी गलती कंपनी की प्रतिष्ठा को नुकसान पहुँचा सकती है.

   • नेटवेस्ट ग्रुप यूके का दूसरा सबसे बड़ा खुदरा बैंक है जिसके पास 19 मिलियन खुदरा ग्राहक हैं.
   • डिजिटल सहायक कोरा प्रतिदिन लगभग 100,000 बातचीत करता है, जिनमें से अधिकांश पहले स्क्रिप्टेड थीं.
   • एआई-जनित उत्तरों और कार्रवाई करने वाले एजेंटों को लागू करते समय सबसे बड़ा जोखिम विस्फोट त्रिज्या और प्रतिष्ठा को नुकसान है.
2. 02:24 - 04:54

   संवाद की जटिलता और एजेंटिक विफलताओं के मोड

   एक ही होम लोन के सवाल पर स्क्रिप्टेड समाधान और एआई समाधान के बीच का अंतर स्पष्ट किया गया है। जब ग्राहक बातचीत के दौरान अचानक विषय बदल देते हैं, तो पारंपरिक सिस्टम विफल हो जाते हैं। इसके अलावा, एआई तर्क और निर्णय लेने के कारण कई नए विफलता मोड पैदा करता है जिनका पारंपरिक सॉफ्टवेयर इंजीनियरिंग परीक्षणों से मुकाबला नहीं किया जा सकता.

   • पारंपरिक निर्णय वृक्ष विषय बदलने की स्थिति में काम करने में विफल हो जाते हैं.
   • एजेंट किसी भी सवाल का जवाब दे सकते हैं, लेकिन साथ ही वे गलत जवाब भी दे सकते हैं जिससे असली पैसे का नुकसान हो सकता है.
   • एजेंटिक समाधानों में आश्वस्त गलतफहमी, प्रॉम्प्ट इंजेक्शन, अनपेक्षित पुनरावृत्ति और गैर-deterministic आउटपुट जैसे चार विफलता मोड होते हैं.
3. 04:54 - 06:38

   हमले की सतह को सिकोड़ना और राउटिंग फ़नल

   मॉडल शुरू होने से पहले कई द्वारों से होकर डेटा गुजरता है। इसमें प्रासंगिक फ़िल्टर, नियतात्मक पूर्व-वर्गीकरण नियम, और आशय वर्गीकरणकर्ता शामिल हैं। यह संरचना एक्सेस कंट्रोल, पूर्ण ऑडिटेबिलिटी, मॉडल अनुपलब्ध होने पर लचीलापन और संस्करण कॉन्फ़िगरेशन के माध्यम से शासन को संभव बनाती है.

   • सुरक्षा और नियंत्रण के लिए राउटिंग फ़नल का उपयोग करके हमले की सतह को सिकोड़ा जाता है.
   • प्रारंभिक चरणों में प्रासंगिक फ़िल्टर और नियतात्मक पूर्व-वर्गीकरण नियमों का उपयोग होता है बिना किसी एमएल या एआई के.
   • यह वास्तुकला एक्सेस कंट्रोल, ऑडिटेबिलिटी, सिस्टम लचीलापन और शासन सुनिश्चित करती है.
4. 06:38 - 09:16

   मूल्यांकन मीट्रिक्स और मानव सत्यापन की सीमाएं

   सटीकता स्कोर अकेले यह तय नहीं कर सकता कि एआई वास्तव में प्रभावी है या नहीं। स्कोर को सुरक्षा, कार्य और अनुभव जैसी श्रेणियों में विभाजित किया गया है। भुगतान एजेंट के मानव सत्यापन परीक्षणों से पता चला कि खुश मामलों में स्कोर बहुत अच्छा था, लेकिन एज केसेस और विषय बदलने की स्थिति में प्रदर्शन काफी कमजोर हो गया.

   • पारंपरिक सटीकता मीट्रिक यह नहीं बताती कि उत्तर वास्तविक स्रोत में निहित है या नहीं.
   • मानव वैलिडेटर उद्देश्यपूर्ण चीजों पर 95% सहमत होते हैं, लेकिन व्यक्तिपरक इरादे की समझ पर उनकी सहमति केवल 64% होती है.
   • विषय बदलने जैसे जटिल मामलों में पास दर गिरकर 43 प्रतिशत तक हो जाती है.
5. 09:16 - 12:07

   एलएलएम जज का स्वचालन और विफलता के कारण

   स्वचालित मूल्यांकन के लिए एलएलएम को जज के रूप में उपयोग करने पर यह देखा गया कि जज मॉडल का चयन खुद कॉन्फ़िगरेशन का हिस्सा बन जाता है। यदि जज मॉडल बदला जाता है, तो यह बिना सोचे समझे बड़े बदलाव ला सकता है। इसलिए, जज मॉडल को वास्तविक एजेंट के मॉडल परिवार से अलग रखा जाता है.

   • शिकायत एजेंट प्रोजेक्ट में 14,000 मामलों का मूल्यांकन मानव वैलिडेटर और एलएम जज दोनों द्वारा किया गया.
   • एलएलएम जज डिफ़ॉल्ट रूप से बहुत उदार होना चाहते हैं, जिससे उनका सहसंबंध मानव त्रुटि के मुकाबले कम हो जाता है.
   • मूल्यांकन के दौरान ट्रेस, स्कोर और प्रयोगों को आंतरिक जेन आई गेटवे और सुरक्षित वातावरण में नियंत्रित किया जाता है.
6. 12:07 - 17:52

   उत्पादन में तैनाती और निरंतर निगरानी

   उत्पादन बुनियादी ढांचे में निरंतर मूल्यांकन एक अनिवार्य हिस्सा है। जेनरेटिव एआई और पारंपरिक एमएल के लिए अलग-अलग मॉडल और विफलता मोड होते हैं, जिनकी निगरानी ओपिक और एनपीएम मॉनिटर के जरिए की जाती है। शैडो डिप्लॉयमेंट और ब्रांड-दर-ब्रांड प्रतिशत-आधारित रोलआउट सुनिश्चित करते हैं कि बैंक बिना किसी बड़े जोखिम के सुरक्षित रूप से लाइव हो सके.

   • निरंतर मूल्यांकन को CI/CD में बनाया गया है ताकि बेसलाइन के मुकाबले लगातार तुलना की जा सके.
   • शैडो डिप्लॉयमेंट के जरिए शून्य जोखिम के साथ वास्तविक उत्पादन डेटा पर मॉडल का परीक्षण किया जाता है.
   • विशेष सुविधा फ़्लैंगिंग (Feature flagging) के माध्यम से किसी भी बैकएंड या वैश्विक समाधान को सेकंडों में स्क्रिप्टेड समाधान में वापस भेजा जा सकता है.