उधार ली गई स्वायत्तता: क्यों एंटरप्राइज़ AI एजेंट केवल चालू नहीं किए जा सकते
एक ऐसे सिस्टम में और एक डेमो में काम करने वाले सिस्टम में फर्क होता है जो तब भी मूल्य नष्ट नहीं करता जब कोई देख नहीं रहा हो। AI एजेंटों के मामले में यह अंतर संशोधित रिकॉर्ड, प्रोसेस किए गए भुगतान और बिना मानवीय हस्तक्षेप के लिए गए निर्णयों में मापा जाता है। समस्या तकनीकी नहीं है। यह शासन (गवर्नेंस) की है।
Forbes Technology Council में Amazon Web Services के जनरेटिव AI के एक वरिष्ठ प्रबंधक द्वारा प्रकाशित एक विश्लेषण इस बहस को ठीक वहाँ स्थापित करता है जहाँ होनी चाहिए: मॉडल की क्षमताओं में नहीं, बल्कि उस निगरानी संरचना में जो एजेंट को घेरती है। जो परिचालन प्रश्न वह प्रस्तुत करते हैं वह बेरहमी से सरल है। किसी एजेंटिक सिस्टम को तैनात करने से पहले, आपको यह जानना होगा कि क्या आपका संगठन उसकी गलतियों का पता लगा सकता है जब वे हो जाएँ, और क्या वह पहचान सिस्टम जो करता है उसे बदल सकती है। यदि इन दोनों में से किसी भी प्रश्न का उत्तर नहीं है, तो स्वायत्तता देने का निर्णय समय से पहले है, चाहे मॉडल ने कितने भी बेंचमार्क पार किए हों।
यह उस बाज़ार में रूढ़िवादी लग सकता है जहाँ Grand View Research का अनुमान है कि एजेंटिक AI का वैश्विक खंड 2026 तक 22.9 अरब डॉलर तक पहुँचेगा और 2033 तक 224.5 अरब डॉलर का अनुमान लगाया गया है। लेकिन बाज़ार का आकार सुरक्षा का तर्क नहीं है। यह सही तरीके से निर्माण करने की तत्कालता का तर्क है।
वह रिफंड मॉडल जो मूल समस्या को उजागर करता है
विश्लेषण एक ऐसे उदाहरण का उपयोग करता है जो सांसारिक लगता है और सटीक निकलता है: एक एजेंट जो ग्राहकों को रिफंड प्रबंधित करता है। जो पहली पहचान वह स्थापित करता है वह है उत्तर का मसौदा तैयार करने और रिफंड जारी करने के बीच। पहला ऐसा पाठ उत्पन्न करता है जिसकी एक इंसान समीक्षा कर सकता है। दूसरा एक बैंक खाते की स्थिति बदलता है।
यह अंतर शब्दार्थ (सेमेंटिक) नहीं है। यह संभावित गलती के प्रकार, उसकी उलटनीयता और पहचान की लागत को परिभाषित करता है। गलत तरीके से लिखा गया पाठ घर्षण उत्पन्न करता है। एक गलत भुगतान वित्तीय हानि, नियामक जोखिम और क्षेत्र के आधार पर कानूनी परिणाम उत्पन्न करता है। एक एजेंट जितनी गति से गलतियाँ उत्पन्न कर सकता है वह ठीक उतनी ही तेज़ी से है जितनी गति से वह संचालित हो सकता है।
प्रस्तावित दृष्टिकोण पूर्व परिभाषाओं के आधार पर मानवीय अनुमोदन को संरचित करना है: कौन से मामले एजेंट संभाल सकता है, कार्य करने से पहले उसके पास क्या प्रमाण होने चाहिए। अधूरे ऑर्डर रिकॉर्ड, अस्पष्ट नीतियाँ या अनिर्दिष्ट शर्तें स्वचालित एस्केलेशन को ट्रिगर करनी चाहिए, न कि मॉडल की सुधारित प्रतिक्रिया को। यह मानवीय निगरानी को एक अस्पष्ट अवधारणा से एक स्पष्ट मानदंड वाले परिचालन नियंत्रण में बदल देता है।
जो इस संरचना को दिलचस्प बनाता है वह यह है कि एजेंटिक कार्यान्वयन में सबसे लगातार गलती के बारे में यह क्या उजागर करती है: यह मानना कि उच्च समापन दर सही परिणामों के बराबर है। एक सिस्टम 95% मामलों को पूरा कर सकता है और फिर भी शेष 5% में व्यवस्थित गलतियाँ उत्पन्न कर सकता है बिना किसी को पता चले, क्योंकि कोई भी स्पष्ट रूप से सफल मामलों को नहीं देख रहा। यह सिफारिश की जाती है कि केवल एस्केलेशन ही नहीं, बल्कि बिना किसी घटना के समाधानों का भी नमूना लिया जाए। अन्यथा एजेंट यह तय करता है कि उसके अपने काम के किन हिस्सों की जाँच होती है, जो कि निगरानी के बिल्कुल विपरीत है।
2026 के एक अध्ययन ने 15 मॉडलों का दो अलग-अलग बेंचमार्क पर मूल्यांकन किया और पाया कि क्षमता में सुधार विश्वसनीयता में मामूली लाभ के साथ आए। यह डेटा महत्वपूर्ण है क्योंकि यह सबसे सामान्य धारणा को तोड़ता है: कि एक अधिक शक्तिशाली मॉडल तैनात करने के लिए आनुपातिक रूप से सुरक्षित है। शक्ति और निरंतरता एक ही गति से नहीं बढ़तीं।
वह अर्थव्यवस्था जिसे रिपोर्ट अक्सर छुपाती हैं
विश्लेषण 1,000 रिफंड मामलों के साथ एक काल्पनिक गणना प्रस्तुत करता है: 850 एजेंट द्वारा बिना मानवीय सुधार के हल, 100 लोगों द्वारा हल, 50 अनसुलझे। सॉफ्टवेयर और बुनियादी ढाँचे की लागत 400 डॉलर; सत्यापन, समीक्षा और पुनर्प्राप्ति की लागत 1,600 डॉलर। परिणाम: 2,000 डॉलर में 950 सत्यापित मामले, लगभग 2.11 डॉलर प्रति मामला। गणना में प्रारंभिक कार्यान्वयन लागत और अनपहचाने त्रुटियों के परिणाम शामिल नहीं हैं।
अंकगणित अनुकूल लगता है। लेकिन उसी मामले की सामान्य प्रस्तुति 95% समापन की रिपोर्ट करना और बचत को एजेंट को श्रेय देना होगी। जो वह रिपोर्ट छोड़ती है वह है मानव श्रम का योगदान, जो उदाहरण में प्रक्रिया की कुल लागत का 80% दर्शाता है। यदि वह लागत किसी अन्य टीम या बजट लाइन द्वारा वहन की जाती है, तो विस्तार का निर्णय कृत्रिम रूप से कम लागत आधार पर लिया जा सकता है।
2024 का एक शोध, "AI Agents That Matter", यही तर्क देता है: एजेंटों के मूल्यांकन की अधिकांश प्रथाएँ कच्ची सटीकता पर अत्यधिक ध्यान केंद्रित करती हैं और लागत की अनदेखी करती हैं। तैनाती के निर्णय के लिए, सही गणना में वह समय शामिल होना चाहिए जो लोग एजेंट के काम की समीक्षा करने, उसे सुधारने और पूरा करने में लगाते हैं। यदि परिचालन टीम अपवादों को उस सिस्टम से जुड़ी लागत के रूप में रिपोर्ट किए बिना संभालती है तो यह समय इंजीनियरिंग बजट में अदृश्य हो सकता है।
समस्या तब बढ़ जाती है जब स्केल किया जाता है। आसान मामले, जो स्वचालित होने वाले पहले हैं, सबसे अनुकूल अर्थव्यवस्था उत्पन्न करते हैं। विवादित लेनदेन या जटिल मामलों तक स्वायत्तता का विस्तार करने के लिए एक अलग मूल्यांकन की आवश्यकता होती है, क्योंकि सरल मामलों की अर्थव्यवस्था यह नहीं बताती कि कठिन मामले कितना समय लेंगे। एक एजेंट जो 850 मानक रिफंड को 0.47 डॉलर प्रत्येक पर प्रोसेस करता है, वह ऐसे अपवाद उत्पन्न कर सकता है जिनमें प्रति मामला 60 डॉलर की मानवीय समीक्षा लगती है। समग्र समापन दर अभी भी अच्छी लगती है। वास्तविक परिचालन मार्जिन नहीं।
एक अतिरिक्त लागत है जिसका विश्लेषण उल्लेख करता है और जो व्यवसाय मॉडल से गायब होती रहती है: समीक्षा कतार का एक मालिक होना आवश्यक है। समीक्षकों को यह समझने के लिए पर्याप्त प्रमाण चाहिए कि क्या हुआ और बिना पिछले सारे काम को दोहराए मामले को पूरा करने का एक तरीका। यदि यह क्षमता तैनाती योजना में नहीं है, तो मामले अनुमोदन की प्रतीक्षा करते हैं जबकि एजेंट काम करता रहता है, और ग्राहक भी उतना ही इंतजार करता है, चाहे सिस्टम ने उसकी प्रारंभिक प्रतिक्रिया कितनी जल्दी उत्पन्न की हो।
वह श्रृंखला जो गलतियों को प्रतिबंधों में बदलती है
IBM ने 27 अक्टूबर 2026 को अपने watsonx Orchestrate प्लेटफ़ॉर्म में अपडेट की घोषणा की जिसमें उपयोगकर्ता सिमुलेशन, निर्धारक मूल्यांकन, उत्पादन में विफलता की जाँच, परीक्षण मामलों की पीढ़ी और एक "AgentOps Agent" शामिल है जिसे उत्पादन में पदोन्नति से पहले एजेंट की गुणवत्ता सुधारने के लिए डिज़ाइन किया गया है। उत्पाद की दिशा ठीक वही है जो Forbes का विश्लेषण शासन पक्ष से वर्णित करता है: उत्पादन में जो होता है उसे प्राधिकरण के विस्तार से पहले सिस्टम के व्यवहार से जोड़ना।
वह संरचना, तैनाती से पहले परीक्षण प्लस उत्पादन में अवलोकन प्लस प्रतिबंधों का अद्यतन, वह चक्र है जो एक एजेंट को ऐसी चीज़ में बदलता है जिसे एक कंपनी केवल निगरानी करने के बजाय प्रबंधित कर सकती है। अंतर यह है कि निगरानी विफलताओं का पता लगाती है। प्रबंधन उन्हें नीति समायोजन, प्राधिकरण सीमाओं या नए परीक्षण मामलों में बदलता है जो पुनरावृत्ति को रोकते हैं।
विश्लेषण जो दृष्टिकोण प्रस्तावित करता है उसका एक ठोस क्रम है: प्रस्तावित कार्यों से शुरू करें, मानवीय अनुमोदन की ओर जाएँ, परिणामों द्वारा उचित ठहराए जाने के बाद परिभाषित सीमाओं के भीतर निष्पादन की अनुमति दें। कुछ मामलों को स्थायी रूप से अनुमोदन की आवश्यकता हो सकती है। एक नीति परिवर्तन, एक बढ़ता हुआ बैकलॉग या बाद में खोजी गई गलतियाँ पहले से दिए गए अनुमतियों की समीक्षा को ट्रिगर करनी चाहिए, न कि भविष्य की अनुमतियों की।
उस श्रृंखला का अंतिम चरण वह है जिसे वास्तविक कार्यान्वयन में सबसे आसानी से छोड़ दिया जाता है: प्रक्रिया के व्यावसायिक जिम्मेदार व्यक्ति से अनसुलझे मामलों और समीक्षा के दौरान पहचानी गई गलतियों को देखने के लिए कहना, और पूछना कि उस विश्लेषण के परिणामस्वरूप क्या बदला। स्वायत्तता पर अगला निर्णय इस बात पर निर्भर होना चाहिए कि क्या वे समस्याएँ हल हुईं और क्या अपवादों का प्रबंधन करने वाली टीम के पास अतिरिक्त काम को अवशोषित करने की क्षमता है। यदि इन दोनों प्रश्नों में से किसी का भी उत्तर नहीं है, तो एजेंट के अधिकार का विस्तार करना एक निर्णय नहीं, एक जुआ है।
अनुमति देने से पहले, परिभाषित करें कि त्रुटि की लागत कौन वहन करेगा
इस विश्लेषण से उभरने वाला पैटर्न एंटरप्राइज़ स्वचालन के इतिहास में नया नहीं है। हर तकनीकी लहर, ERP से RPA तक, एक ऐसे चरण से गुज़री जहाँ दक्षता के वादे का मूल्यांकन उन मामलों पर किया गया जिन्हें सिस्टम अच्छी तरह संभालता था, और वास्तविक लागत उन मामलों में प्रकट हुई जो वह नहीं कर सका। भाषा एजेंटों के साथ अंतर यह है कि उनका लचीलापन, जो वास्तव में उन्हें आकर्षक बनाता है, यह भी सुनिश्चित करता है कि उनकी विफलताएँ एक निर्धारक नियम की तुलना में कम पूर्वानुमानित हों।
एक एजेंट जो प्राकृतिक भाषा निर्देश के साथ काम करता है वह संदर्भ के साथ, अस्पष्ट डेटा के साथ, मॉडल अपडेट के साथ या ऐसे उपकरणों के साथ अपना व्यवहार बदल सकता है जो सिस्टम की स्थिति के अनुसार अलग तरह से प्रतिक्रिया करते हैं। इसका मतलब है कि प्री-प्रोडक्शन में एक सीमित बेंचमार्क के खिलाफ इसे मान्य करना उत्पादन में निरंतरता की गारंटी नहीं देता। यह गारंटी देता है कि वह उस बेंचमार्क को पार कर गया।
किसी भी परिचालन जिम्मेदार व्यक्ति को एजेंट के अधिकार के विस्तार को मंजूरी देने से पहले जो प्रश्न पूछना चाहिए वह यह नहीं है कि उसने कितने मामले पूरे किए। यह है कि उसने जो मामले पूरे किए उनमें से कितनों की किसी ऐसे व्यक्ति ने समीक्षा की जो गलती का पता लगाने में सक्षम हो, और संगठन ने जो गलतियाँ पाईं उनके साथ क्या किया। यदि किसी ने सफल मामलों की समीक्षा नहीं की, यदि पाई गई गलतियों ने सिस्टम के नियमों को नहीं बदला, या यदि समीक्षा टीम के पास एजेंट के तर्क पर दृश्यता नहीं है, तो समापन दर वह नहीं मापती जो वह मापती प्रतीत होती है।
एजेंटिक AI के बाज़ार शासन के साथ या उसके बिना बढ़ेंगे। जो निर्धारित करेगा कि कौन से संगठन नियंत्रण के साथ स्केल करते हैं और कौन से मूक देनदारियाँ जमा करते हैं वह ठीक यही है: क्या त्रुटि की लागत सही बजट में दिखाई देती है, क्या समीक्षकों के पास वह काम पूरा करने के उपकरण हैं जो एजेंट ने समाप्त नहीं किया, और क्या कोई प्रत्येक विफलता को उस प्रतिबंध में बदलने के लिए जिम्मेदार है जो अगली को रोकता है। स्वायत्तता प्रदान नहीं की जाती। यह परिचालन साक्ष्य के साथ बनाई जाती है, और वह प्रक्रिया उससे कहीं अधिक समय लेती है जितना तैनाती का कैलेंडर आमतौर पर स्वीकार करता है।
