हम अभी भी सॉफ्टवेयर की तरह एआई एजेंट्स को क्यों नियंत्रित कर रहे हैं? - टिम टायलर, ग्रेविटाई
원제 · Why Are We Still Governing AI Agents Like Software? - Tim Tyler, Gravitee
핵심 요약
एआई एजेंटों को पारंपरिक सॉफ़्टवेयर के रूप में प्रबंधित करने के बजाय एक डिजिटल कार्यबल के रूप में देखना और उनके लिए पहचान, प्रायोजन और निरंतर निगरानी का एक स्पष्ट जवाबदेही ढांचा स्थापित करना आवश्यक है।
하이라이트
एआई एजेंटों को सॉफ़्टवेयर की तरह नियंत्रित करने के बजाय एक डिजिटल कार्यबल के रूप में देखा जाना चाहिए।
एजेंट जवाबदेही ढांचे को असाइनमेंट, संरेखण और प्रशासन नामक तीन मुख्य चरणों में विभाजित किया गया है।
प्रत्येक एआई एजेंट को एक अनूठी आईडी और एक ज्ञात साझा रजिस्ट्री में एक विशिष्ट पहचान दी जानी चाहिए।
मानव प्रायोजक यह निर्धारित करता है कि एआई एजेंट का उद्देश्य क्या है और वह किन डेटा या टूल तक पहुँच सकता है।
निश्चित नियम और संभावित इरादे मिलकर एजेंट के प्रदर्शन का एक स्कोरकार्ड तैयार करते हैं।
मशीन की गति से काम करने वाले संरक्षक एजेंट वास्तविक समय में एआई के कामकाज की निगरानी और प्रतिबंध तय करते हैं।
타임라인
एआई को सॉफ़्टवेयर के बजाय डिजिटल कार्यबल के रूप में देखना
पारंपरिक सॉफ़्टवेयर और एआई एजेंटों के प्रबंधन में अंतर स्पष्ट किया गया है। उद्यमों को यह समझना होगा कि एआई केवल एक कोड नहीं बल्कि एक डिजिटल कर्मचारी है, जिसके लिए विशेष प्रबंधन सिद्धांतों की आवश्यकता होती है।
- एआई एजेंटों को केवल एक सॉफ़्टवेयर एप्लिकेशन मानना उद्यमों के लिए गलत दृष्टिकोण है।
- एजेंटों को मानव कर्मचारियों की तरह नियंत्रित करने के लिए एक नए डिजिटल कार्यबल ढांचे की आवश्यकता है।
- एजेंट जवाबदेही फ्रेमवर्क में नियंत्रण और ऑडिटिंग के तीन चरण शामिल हैं।
असाइनमेंट चरण और एजेंट की पहचान
असाइनमेंट चरण यह तय करता है कि एजेंट कौन है और उसके लिए कौन सा इंसान जिम्मेदार है। जिस प्रकार हर कर्मचारी की एक आईडी होती है, उसी तरह एजेंट को भी एक यूनीक आईडी और एक मानव प्रायोजक की आवश्यकता होती है।
- संगठन में एआई एजेंट की उपस्थिति स्थापित करने के लिए उसे एक अद्वितीय पहचान देनी होती है।
- प्रत्येक एजेंट एक टीम का हिस्सा होता है और उसे पिछले निर्णयों और इतिहास का संदर्भ चाहिए।
- प्रत्येक एआई एजेंट के पीछे एक जवाबदेह मानव प्रायोजक होना चाहिए जो उसकी लागत और गतिविधियों का मालिक हो।
दायरा, भूमिका और प्राधिकरण निर्धारण
यह खंड स्पष्ट करता है कि एआई एजेंट को क्या करना चाहिए और उसे कौन से अधिकार मिलने चाहिए। ऑनबोर्डिंग और रनटाइम स्कोप के जरिए एजेंट की सीमाओं और डेटा एक्सेस को नियंत्रित किया जाता है।
- एजेंट की भूमिका उसका उद्देश्य, जिम्मेदारियां और बजट निर्धारित करती है।
- प्रायोजक यह तय करता है कि एजेंट किन टूल और डेटा तक पहुँच सकता है।
- अधिकार का दायरा हमेशा निर्धारित सीमाओं के भीतर काम करता है और वंशीय क्रम से बंधा होता है।
प्रशासन चरण और निरंतर निगरानी
प्रशासन चरण में यह सत्यापित किया जाता है कि एजेंट अपने निर्धारित दायरे के भीतर काम कर रहा है या नहीं। विश्वास के स्तर के आधार पर एजेंट के कार्यों को संपादित किया जाता है या इंसान के पास पहुँचाया जाता है।
- प्रशासन चरण में निश्चित नियमों और संभावित इरादों का आकलन किया जाता है।
- संरक्षक एजेंट मशीन की गति से त्रुटियों की निगरानी और निलंबन की कार्रवाई करते हैं।
- मानव प्रबंधक एक कोच की तरह नियमों और अधिकारों को समायोजित करके परिणामों में सुधार करता है।
설명
Nobody would hire a worker with no ID, no manager and shared passwords, yet that's how most companies deploy AI agents. Tim Tyler of Gravitee presents the Agent Accountability framework, which governs agents like a digital workforce in three stages: Assignment (identity, team, a named human sponsor), Alignment (role, mission and least-privilege authority) and Administration (oversight scorecards, guardian agents and step-by-step recourse when agents go off course). Chapters: 0:00 The job posting nobody would accept 1:15 Agents as a digital workforce 2:27 Assignment: identity, team and sponsor 6:00 Alignment: role and mission 7:37 Authority and lowest scope 9:34 Never assume alignment 11:17 Administration: oversight scorecards 13:35 Agents need micromanagers 14:21 Recourse when agents go wrong 17:05 Recap Tim Tyler https://www.gravitee.io Agent Accountability Framework: https://agentaccountabilityframework.org Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!