क्लॉड अपने स्वयं के अनुमतियाँ निर्धारित करता है और कोई भी उद्योग में इसे अच्छे से नहीं देख रहा है
किसी भी तकनीकी उपकरण के विकास में एक ऐसा क्षण आता है जब गति रोकने वाला प्रवाह एक डिज़ाइन समस्या से अधिक गंभीर चेतावनी संकेत बन जाता है, जिसे बाजार अनदेखा करने लगता है। एनथ्रोपिक ने अभी उस सीमा को पार किया है।
कंपनी ने क्लॉड कोड के लिए नए ऑपरेशन मोड की घोषणा की है — एक ए.आई. द्वारा सहायता प्राप्त प्रोग्रामिंग टूल — जिसे "ऑटो मोड" कहा जाता है। इसकी प्रक्रिया सीधी है: जब भी क्लॉड को किसी संवेदनशील कार्य को निष्पादित करने की आवश्यकता होती है (फाइलें पढ़ना, कोड को संशोधित करना, सिस्टम संसाधनों तक पहुंचना), तो वह डेवलपर को अनुमति मांगने के लिए बाधित करने के बजाय, स्वयं निर्धारित करता है कि उसे किस स्तर की पहुंच की आवश्यकता है। एनथ्रोपिक का तर्क है कि यह उपयोगकर्ताओं द्वारा सक्रिय रूप से टालने वाले क्रमिक नियंत्रण और पूरी स्वतंत्रता के बीच एक मध्य बिंदु का प्रतिनिधित्व करता है।
मध्य बिंदुओं के साथ समस्या यह है कि वे दोनों छोरों की तनावों को विरासत में लेते हैं बिना किसी को हल किए।
एनथ्रोपिक की मजबूरी का समाधान
इस घोषणा में सबसे रोचक बात नई तकनीक नहीं है, बल्कि इसका प्रारंभिक निदान है। स्वयं कंपनी के अनुसार, क्लॉड कोड के उपयोगकर्ता अनुमति स्क्रीन को नियमित रूप से टाल रहे थे। यह इसलिए नहीं था कि वे अव्यवस्थित या असावधान थे, बल्कि इसलिए कि सूक्ष्म अनुमतियों के मॉडल का बढ़ता दबाव उस कार्यप्रवाह को नष्ट कर रहा था जिसके लिए यह उपकरण बनाई गई थी।
यह सुरक्षा के ओवर-इंजीनियरिंग का एक क्लासिक पैटर्न है जो विपरीत प्रभाव पैदा करता है। जब एक नियंत्रण प्रणाली पर्याप्त दुरुपयोग पैदा करती है, तो उपयोगकर्ता — विशेषकर तकनीकी लोग, जो ऐसा करने के लिए साधन रखते हैं — अपने स्वयं के शॉर्टकट बनाते हैं। इसका परिणाम एक झूठी सुरक्षा की भावना है: अनुमति प्रणाली वहां मौजूद होती है, लेकिन संचालन में वह मारी जाती है। एनथ्रोपिक किसी को सुरक्षा प्रदान नहीं कर रहा था; वह अनुपालन दस्तावेज तैयार कर रहा था जिसे कोई नहीं पढ़ता।
"ऑटो मोड" का जन्म, इसलिए, एक साहसी उत्पाद दृष्टि से नहीं, बल्कि एक उपयोगकर्ता आधार के दबाव से हुआ है जिसने पहले से ही अपने अंगुलियों से वोट किया था। कंपनी ने वैध कर दिया जो बाजार पहले से ही अनौपचारिक रूप से कर रहा था। यह अपने आप में बुरा नहीं है — कई बेहतरीन उत्पाद निर्णय वास्तव में यही होते हैं — लेकिन इसे इस तरह समझना महत्वपूर्ण है ताकि आने वाले जोखिमों का मूल्यांकन किया जा सके।
तकनीकी प्रश्न यह है कि क्लॉड द्वारा तय किए गए अनुमतियों पर किसके द्वारा ऑडिट किया जाता है, और किन मानदंडों पर उपयोगकर्ताओं को विश्वास हो सकता है कि वह आंतरिक मूल्यांकन उनके परिचालन हितों के अनुरूप है, न कि केवल प्लेटफार्म के।
डेवलपर जो भर्ती कर रहा है वह गति नहीं है
बाहर से, यह कदम उपयोगकर्ता अनुभव का एक अनुकूलन प्रतीत होता है। कम क्लिक, कम व्यवधान, अधिक प्रवाह। यही एनथ्रोपिक बेच रहा है। लेकिन क्लॉड कोड का उपयोग करने वाले डेवलपर गति को उसके सबसे सतही अर्थ में नहीं भर्ती कर रहे हैं।
वे भर्ती कर रहे हैं संचालन की विश्वसनीयता: एक जटिल कार्य को सौंपने की क्षमता और, एक उचित निश्चितता के साथ, यह मान लेना कि एजेंट उन सीमाओं के भीतर कार्य करेगा जो वे स्वयं उस समय निर्धारित करेंगे अगर उन्हें उस पर विचार करने का समय होता। यह सौंपने की प्रक्रिया एक साझा मानसिक मॉडल को शामिल करती है कि किसे स्वीकार्य माना जाता है और किसे नहीं, प्रत्येक परियोजना के विशेष संदर्भ में।
स्पष्ट अनुमतियों का मॉडल, भले ही यह कितना frustrate हो, ऐसे कार्य को पूरा करता था जो तकनीकी सुरक्षा से परे है: यह वास्तविक समय में उस साझा मॉडल का निर्माण करता था। प्रत्येक अनुमोदन एजेंट और डेवलपर के बीच एक छोटी कैलिब्रेशन होती थी। "ऑटो मोड" उस कैलिब्रेशन को समाप्त करता है और इसे इस विश्वास के साथ बदलता है कि क्लॉड पहले से ही सही मॉडल है। यह पूर्वानुमानित परिदृश्यों में काम कर सकता है। अनुपालन की आवश्यकताओं, संवेदनशील बुनियादी ढाँच या विभिन्न अनुभव स्तरों वाली टीमों वाले परियोजनाओं में, यह दांव काफी महंगा हो जाता है।
मैं यह नहीं कह रहा कि पिछला मॉडल बेहतर था। मैं यह कह रहा हूं कि डेवलपर्स जो काम कर रहे हैं वह अनिश्चितता को कम करना है, और यह कार्य अब क्लॉड की सही संदर्भों का अनुमान लगाने की क्षमता पर निर्भर करता है, न कि उपयोगकर्ता के स्पष्ट विवेचन पर। यह विश्वास की आर्किटेक्चर में बदलाव है, न कि केवल इंटरफ़ेस में।
एनथ्रोपिक जो जोखिम पुनर्वितरित कर रहा है
इस खबर को कवर करते समय जिन वित्तीय और प्र reputational गणनाओं का ध्यान नहीं दिया जा रहा है वह है: जब एक ए.आई. अपनी अनुमतियाँ स्वयं चुनती है और कुछ गलत होता है, तो गलती की कीमत कौन सहन करता है?
स्पष्ट अनुमतियों के मॉडल में, जिम्मेदारी की श्रृंखला अपेक्षाकृत स्पष्ट थी। उपयोगकर्ता ने कार्रवाई को मंजूरी दी। उपयोगकर्ता ने जोखिम को स्वीकार किया। उपकरण ने प्रदत्त मंडल के भीतर कार्य किया। लेकिन "ऑटो मोड" में, वह श्रृंखला टूट जाती है। क्लॉड मूल्यांकन करता है, क्लॉड निर्णय लेता है, क्लॉड कार्य करता है। यदि मूल्यांकन गलत है — यदि मॉडल ने उस संदर्भ में उचित अनुमतियों को अधिक आँका — तो डेवलपर उन परिणामों के लिए खुला रह जाता है जिन्हें उसने स्पष्ट रूप से अनुमोदित नहीं किया।
एनथ्रोपिक उस जोखिम को उपयोगकर्ता की ओर पुनर्वितरित कर रहा है भले ही उपयोगकर्ता इसे जरूरी न पहचानता हो। गति दृश्य और त्वरित होती है। पुनः आवंटित जोखिम अदृश्य है जब तक कि यह औसत नहीं होती। यह कोई छोटी डिज़ाइन दोष नहीं है; यह किसी भी संगठन के लिए सबसे महत्वपूर्ण चर है जो उत्पादन वातावरण में इस उपकरण को अपनाने का मूल्यांकन करेंगे।
बात यह नहीं है कि एनथ्रोपिक बुरी नीयत से काम कर रहा है। बात यह है कि स्वायत्त ए.आई. सिस्टम में जिम्मेदारी की आर्किटेक्चर de facto डिज़ाइन की जा रही है, बिना किसी नियामक या संविदात्मक ढांचे जो उस गति का साथ दें। जो कंपनियां इन उपकरणों को अपनाएंगी बिना इस प्रश्न को आंतरिक रूप से हल किए वे अंततः एक शासन ऋण का निर्माण कर रही हैं जिसे किसी को निपटाना है।
प्रतियोगिता के लाभ में स्वायत्तता की एक सीमा होती है
एनथ्रोपिक इस दिशा में अकेला नहीं है। ए.आई. एजेंटों की ओर बढ़ती स्वायत्तता की प्रवृत्ति उद्योग में सामान्य है: कम पुष्टि, अधिक क्रियान्वयन, उपयोगकर्ता की ओर से लगातार निगरानी के बिना कार्य करने की क्षमता। प्रतिस्पर्धात्मक तर्क समझ में आता है: जो मॉडल कम व्यवधान पैदा करता है वह अल्पावधि में अधिक स्वीकृति प्राप्त करता है।
लेकिन यह तर्क सीमित क्षितिज है। जैसे-जैसे ये एजेंट अधिक जटिल संदर्भों में काम करते हैं और महंगे परिणामों के साथ — उत्पादन में कोड, महत्वपूर्ण बुनियादी ढांचा, विनियमित डेटा — बिना संरक्षित कार्य के लिए सहिष्णुता में भारी कमी आती है। वर्तमान में जो संगठन गति का जश्न मना रहे हैं, वे पहले होंगे जो पहले बड़े कद की घटना हुई तो गहन ऑडिट का मांग करेंगे।
क्लॉड का "ऑटो मोड" इस संदर्भ में एक ऐसा दांव है जो वर्तमान बाजार में शानदार तरीके से काम करता है और उत्पाद के भविष्य के लिए संरचनात्मक असुरक्षा उत्पन्न करता है। एनथ्रोपिक को यह हल करना होगा कि कैसे स्वतंत्रता और ट्रेसबिलिटी को एक साथ प्रदान किया जाए, क्योंकि परिपक्व कॉर्पोरेट पर्यावरण में, एक बिना दूसरे के एक संपूर्ण समाधान नहीं है।
इस मॉडल की प्रारंभिक सफलता एक परिकल्पना को प्रमाणित करेगी जो पहले से ही स्पष्ट थी: डेवलपर्स जो कार्य कर रहे थे वह कभी भी अनुमतियों का एक प्रणाली नहीं थी, बल्कि विश्वसनीयता के साथ सौंपने की संभावना थी। उद्योग जो इस सौंपने को ऑडिटेबल — केवल तेज नहीं — बनाने में सफल होगा वह खंड को पकड़ लेगा जो वास्तव में ए.आई. उपकरणों पर व्यावसायिक खर्च को चलाता है।
