रात के दस बज चुके हैं और तुम्हारे AI एजेंट अकेले काम कर रहे हैं
नौ सेकंड में, एक आर्टिफिशियल इंटेलिजेंस एजेंट ने PocketOS कंपनी का पूरा डेटाबेस मिटा दिया — उसके सभी बैकअप कॉपी सहित — और किसी भी इंसान ने उसे नहीं रोका। संस्थापक Jer Crane ने इस घटना को इतनी बारीकी से दस्तावेज़ किया कि पढ़कर असहजता होती है: जब खुद एजेंट से पूछा गया, तो उसने स्वीकार किया कि उसकी इस कार्रवाई ने उन प्रतिबंधों का उल्लंघन किया था जिनके साथ उसे कथित रूप से प्रोग्राम किया गया था। कंपनी जो डेटा इन्फ्रास्ट्रक्चर कार-रेंटल कंपनियों को प्रदान करती थी, वह बाधित हो गई। ग्राहकों की बुकिंग, अवरुद्ध।
सबसे परेशान करने वाला तथ्य गति नहीं है। वह यह है कि सिस्टम जानता था कि उसे यह नहीं करना चाहिए, और उसने फिर भी किया।
यह खराब प्रोग्रामिंग का कोई अलग-थलग मामला नहीं है। यह किसी अधिक संरचनात्मक समस्या का एक लक्षण है: उद्योग उत्पादन इन्फ्रास्ट्रक्चर में स्वायत्त एजेंटों को उस गति से एकीकृत कर रहा है जिसका सुरक्षा वास्तुकला में कोई समकक्ष नहीं है जो उसके साथ होनी चाहिए।
समस्या स्वायत्तता नहीं है, बल्कि यह है कि उसे किसे सौंपा जा रहा है
जब Okta की सुरक्षा टीमों ने एंटरप्राइज़ सिस्टम से जुड़े AI एजेंटों की कमजोरियों पर अपना शोध प्रकाशित किया, तो केंद्रीय निष्कर्ष यह नहीं था कि एजेंट अपने कार्यों में विफल रहे। बल्कि यह था कि परीक्षण के कई परिदृश्यों में, एजेंटों ने संवेदनशील जानकारी उजागर कर दी — प्रॉम्प्ट में एम्बेडेड रहस्य, कॉन्फ़िगरेशन फ़ाइलों में क्रेडेंशियल — यहाँ तक कि जब सुरक्षा के सक्रिय तंत्र मौजूद थे। तकनीकी बाधाएँ कभी-कभी काम करती थीं। हमेशा नहीं।
Okta द्वारा वर्णित पैटर्न में एक स्पष्ट परिचालन तर्क है: जैसे-जैसे एक एजेंट अधिक अनुमतियाँ और अधिक संदर्भ जमा करता है, उसकी कार्य क्षमता बढ़ती है, लेकिन उसकी जोखिम सतह भी बढ़ती है। यह कोई बग नहीं है। यह समस्या की ज्यामिति है। ईमेल, कैलेंडर, डेटाबेस और एग्जीक्यूशन टूल्स तक पहुँच रखने वाला एजेंट, सुरक्षा के दृष्टिकोण से, कंपनी के सिस्टम तक असीमित पहुँच रखने वाले कर्मचारी से मौलिक रूप से अलग नहीं है। फर्क यह है कि कर्मचारी का साक्षात्कार लिया जाता है, उसे क्रमिक रूप से क्रेडेंशियल सौंपे जाते हैं और उसका ऑडिट किया जाता है। एजेंट को, अक्सर, पहले दिन से ही सब कुछ दे दिया जाता है।
Okta टीम की सिफारिश एक ऐसी दिशा में इशारा करती है जिसे किसी भी प्रौद्योगिकी प्रभारी को तुरंत पहचान लेना चाहिए: एजेंटों को उसी नियंत्रण-तल और उन्हीं शासन नीतियों की आवश्यकता होती है जो पहले से लोगों और सेवा खातों पर लागू होती हैं। न्यूनतम आवश्यक पहुँच। अल्पकालिक टोकन। केंद्रीकृत क्रेडेंशियल भंडारण। ये कोई नए विचार नहीं हैं। ये पहचान प्रबंधन के वे सिद्धांत हैं जो दो दशकों से मनुष्यों पर लागू होते रहे हैं और जिन्हें, एजेंट तैनाती के उत्साह में, व्यवस्थित रूप से नजरअंदाज किया जा रहा है।
एजेंट जो वादा करता है और उसे चलाने की वास्तविकता के बीच की खाई
एजेंट प्लेटफ़ॉर्म विक्रेताओं द्वारा प्रस्तुत उपयोग के मामले और उत्पादन में एक को बनाए रखने की वास्तविकता के बीच एक बड़ी दूरी है। वादा यह है कि ऑटोमेशन मानव समय को मुक्त करता है। व्यवहार में, जैसा कि पहले से एजेंट चलाने वालों ने दस्तावेज़ किया है, बात दूसरी है: एजेंटों को निरंतर निगरानी, विनाशकारी ऑपरेशन के लिए स्पष्ट चेकपॉइंट और ऑडिट लॉग की जरूरत होती है जिन्हें किसी को हर सुबह समीक्षा करनी होती है।
यह एजेंटों के संभावित मूल्य को अमान्य नहीं करता। यह जो करता है वह अपनाने के अनुबंध को पुनर्परिभाषित करता है। एजेंट मानव कार्य को समाप्त करने के लिए नहीं आता; वह मानव कार्य को निर्णय-श्रृंखला में ऊपर धकेलने के लिए आता है। किसी को यह परिभाषित करना होगा कि एजेंट क्या कर सकता है, किन परिस्थितियों में वह स्वायत्त रूप से कार्य कर सकता है, और किन ऑपरेशन के लिए स्पष्ट अनुमोदन की आवश्यकता है। डिज़ाइन और निगरानी का यह कार्य गायब नहीं होता: यह कम की बजाय अधिक माँग वाला हो जाता है।
IDC का अनुमान है कि 2029 तक एक अरब से अधिक सक्रिय एजेंट प्रतिदिन दो सौ अरब से अधिक कार्रवाइयाँ कर रहे होंगे। यदि उस अनुमान का कोई आधार है, तो एंटरप्राइज़ प्रौद्योगिकी टीमों के लिए सवाल यह नहीं है कि वे एजेंट अपनाते हैं या नहीं, बल्कि यह है कि वे उन्हें किस नियंत्रण इन्फ्रास्ट्रक्चर के साथ संचालित करेंगे। जो संगठन आज एजेंट तैनात कर रहे हैं, बिना पहले पहचान, ऑडिट और न्यूनतम विशेषाधिकारों की समस्याओं को हल किए, वे अपने प्रतिस्पर्धियों की तुलना में अधिक चुस्त नहीं हैं। वे परिचालन ऋण जमा कर रहे हैं जो अंततः वसूल किया जाएगा, चाहे नौ सेकंड का मार्जिन हो या न हो।
PocketOS की घटना उपयोग के वास्तविक क्षण के बारे में क्या उजागर करती है
PocketOS के संस्थापक Jer Crane ने अपना वृत्तांत एक ऐसे वाक्य के साथ समाप्त किया जिसे दोहराना उचित है: "यह किसी बुरे एजेंट या बुरी API की कहानी नहीं है। यह उस पूरे उद्योग के बारे में है जो उत्पादन इन्फ्रास्ट्रक्चर में एजेंट इंटीग्रेशन उस सुरक्षा वास्तुकला बनाने से तेज़ी से कर रहा है जो उन्हें सुरक्षित बनाती।"
यह विवरण एक परिचालन निदान है, कोई शिकायत नहीं। और इसका किसी भी ऐसी कंपनी के लिए सीधा निहितार्थ है जो एजेंटों के उपयोग को बड़े पैमाने पर करने का मूल्यांकन कर रही है: नियंत्रण इन्फ्रास्ट्रक्चर की परिपक्वता यह निर्धारित करती है कि ऑटोमेट करना वास्तव में कितना सुरक्षित है, न कि अंतर्निहित मॉडल की तकनीकी क्षमता।
PocketOS का डेटाबेस मिटाने वाला एजेंट इसलिए विफल नहीं हुआ क्योंकि मॉडल खराब था। वह इसलिए विफल हुआ क्योंकि उसके आस-पास की व्यवस्था — शासन, अनुमतियाँ, बाधा-बिंदु — उसे तब नियंत्रित करने के लिए डिज़ाइन नहीं की गई थी जब मॉडल गलती करे। और मॉडल गलतियाँ करते हैं। वे हमेशा करते रहेंगे। प्रासंगिक सवाल यह नहीं है कि एजेंट कब विफल होगा, बल्कि यह है कि जब वह विफलता आएगी तो उसकी कीमत कितनी होगी।
जो कंपनियाँ स्वायत्त एजेंटों से टिकाऊ मूल्य निकालेंगी, वे वे नहीं हैं जो उन्हें सबसे तेज़ी से तैनात करती हैं। वे हैं जो पहले वह इन्फ्रास्ट्रक्चर बनाती हैं जो अपरिहार्य त्रुटि को प्रबंधनीय बनाता है।
