वॉयस एआई जहां एक गलत सवाल नियमों को तोड़ देता है - शिव इंदप, अपस्टार्ट और ब्रुक हॉपकिंस, कोवाल
원제 · Voice AI Where One Wrong Question Breaks the Rules - Shiv Indap, Upstart & Brooke Hopkins, Coval
핵심 요약
वॉयस एआई एजेंटों को विनियमित क्षेत्रों में सुरक्षित रूप से तैनात करने के लिए लगातार मानवीय समीक्षा, सटीक एलएलएम जज मेट्रिक्स और सिमुलेशन चक्र का उपयोग किया जाता है।
하이라이트
अपस्टार्ट के लिए आवेदन करने वाले लगभग 90% लोगों का तुरंत निर्णय हो जाता है और बाकी 10% के लिए जानकारी सत्यापित करने वास्ते वॉइस एजेंट कॉल करता है।
शुरुआत में मानवीय समीक्षकों और एलएलएम जज के बीच अनुपालन सहमति दर केवल 33% थी, जो बाद में बढ़कर 92% हो गई।
ऋण आवेदकों से आय के स्रोत, पैसों के उपयोग और बकाया दायित्वों के बारे में तीन मुख्य सवाल पूछे जाते हैं।
चिकित्सा उद्देश्यों के लिए पैसे मांगने पर राशि नहीं पूछी जा सकती क्योंकि ऐसा करने से विनियामक समस्या पैदा होती है।
타임라인
वॉयस एजेंट और ऋण क्षेत्र की चुनौतियाँ
वक्ता ब्रूक और शिव अपने संबंधित क्षेत्रों का परिचय देते हैं और बताते हैं कि कैसे स्वायत्त वाहनों की तकनीक वॉयस एजेंट्स के समान होती है। ऋण देने का क्षेत्र अत्यधिक विनियमित है, इसलिए ग्राहकों के साथ होने वाली हर बातचीत में नियमों का कड़ाई से पालन करना पड़ता है। अपस्टार्ट ने सत्यापन कॉलों को स्वचालित करने के लिए एक वॉइस एजेंट लॉन्च किया है जो ऋण आवेदकों से तीन आवश्यक सवाल पूछता है और उनकी पहचान सत्यापित करता है।
- कोवाल कंपनी वॉइस एजेंट्स के लिए मूल्यांकन तैयार करती है और इसका अनुभव स्वायत्त वाहन इंफ्रास्ट्रक्चर से जुड़ा है.
- अपस्टार्ट एक फिनटेक कंपनी है जो मुख्य रूप से ऋण देती है और इसके वॉइस एजेंट प्रतिदिन हजारों कॉल करते हैं.
- अत्यधिक विनियमित क्षेत्र होने के कारण वॉयस कॉल में नियमों का पालन करना अनिवार्य है ताकि विनियामक मुद्दों से बचा जा सके.
ऑडिटिंग प्रक्रिया और मेट्रिक्स में सुधार
एजेंट के प्रदर्शन की समीक्षा के लिए पहले गूगल शीट का उपयोग किया गया था लेकिन डेटा बढ़ने से प्रक्रिया गड़बड़ा गई, जिसके बाद कोवाल की मदद ली गई। एलएलएम जज और मानवीय समीक्षक मिलकर यह जांचते हैं कि एजेंट ने नियमों का पालन किया है या नहीं। समय के साथ छिपे हुए नियमों और ट्राइबल नॉलेज को सिस्टम में शामिल किया गया, जिससे जज और इंसानों के बीच सहमति का प्रतिशत काफी बढ़ गया।
- शुरुआत में कॉलों की समीक्षा के लिए गूगल शीट का उपयोग किया गया था जो बाद में डेटा और कॉलम बढ़ने के कारण अव्यवस्थित हो गई.
- कॉल पूरी होने के बाद एलएलएम जज स्वचालित रूप से चलता है और अनुपालन आवश्यकताओं की जाँच करता है.
- विशेषज्ञों की प्रतिक्रिया और ट्राइबल नॉलेज को इनकोड करने के बाद अनुपालन सहमति दर 33% से बढ़कर 92% हो गई.
निरंतर सुधार और मूल्यांकन चक्र
उत्पाद को लगातार बेहतर बनाने के लिए मेट्रिक्स को परिभाषित करना और लाइव कॉलों की निगरानी करना आवश्यक है। ज्ञात और अज्ञात विफलताओं को पहचान कर उन्हें संबंधित टीमों और मानवीय समीक्षा कतार में भेजा जाता है। इसके बाद सिमुलेशन के माध्यम से यह जांचा जाता है कि सुधार ने समस्या को ठीक किया या नहीं, जिससे उपयोगकर्ताओं को जोखिम में डाले बिना एजेंट को सुरक्षित रूप से लॉन्च किया जा सकता है।
- उत्पाद की परिभाषा तय करने के बाद मेट्रिक्स को परिभाषित किया जाता है और लाइव कॉल की निगरानी की जाती है.
- समस्याओं का पता चलने पर उन्हें मानवीय समीक्षा के लिए भेजा जाता है और प्रोडक्शन से पहले सिमुलेशन में सुधारों का परीक्षण किया जाता है.
- मजबूत मूल्यांकन प्रणाली विनियमित उद्योगों में उच्च गुणवत्ता वाले और सुरक्षित उत्पादों को तैनात करने का मुख्य आधार है.
설명
Upstart handles thousands of lending calls a day, where one wrong question can become a regulatory problem. Shiv Indap, who leads voice AI at Upstart, and Brooke Hopkins, founder of Coval and former head of evaluation infrastructure at Waymo, walk through automating loan verification calls: the compliance traps, outgrowing a Google Sheet for human review, and raising agreement between the LLM judge and human reviewers from 33% to 92%. Then they lay out the full loop from live monitoring and human review queues to re-simulating fixes and self-healing agents, with every change still signed off by a human. Chapters: 0:00 Intro 1:02 Voice AI at Upstart 2:11 Automating verification calls 3:04 Where compliance gets tricky 4:14 Outgrowing the Google Sheet 5:28 Metrics and LLM judges 7:03 From 33% to 92% judge agreement 8:52 The continuous improvement loop 10:04 Defining metrics 10:51 Monitoring live calls 12:31 Re-simulating fixes before production 14:04 Self-healing agents 15:11 Wrap-up: humans stay in the loop Shiv Indap https://www.upstart.com Brooke Hopkins https://www.coval.dev Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!