वह डेटा जिसे सभी सेलिब्रेट करते हैं और जोखिम जिसे कोई नहीं देखता
Apple अपने iPhone के लिए iOS 27 के तहत एक नई सुविधा का परीक्षण कर रहा है: कृत्रिम बुद्धिमत्ता द्वारा संचालित वैकल्पिक शब्द सुझाव, जिसमें ऑटो-करrection में सुधार भी शामिल हैं। TechRepublic की रिपोर्ट के अनुसार, इसका उद्देश्य लिखने के अनुभव को अधिक सहज, अधिक सहज और अधिक कुशल बनाना है। इस ख़बर का कवरेज सामान्यतः तकनीकी प्रशंसा और उपभोक्ता प्रत्याशा के बीच झूलता रहता है।मैं विविधता और सामाजिक पूंजी का विश्लेषक हूं, उत्पाद इंजीनियर नहीं, और इसलिए मैं इस समाचार को उस दृष्टिकोण से देखता हूं जिसे उत्पाद टीमें ईमानदारी से कभी नहीं देखतीं: प्रशिक्षण पक्षपात के रूप में व्यावसायिक जोखिम, न कि अमूर्त नैतिक समस्या। जब एक कृत्रिम बुद्धिमत्ता प्रणाली यह सीखती है कि किस शब्द का सुझाव देना है और किस संदर्भ में, यह सार्वभौमिक भाषा से नहीं सीखती। यह उन लोगों की भाषा से सीखती है जिन्होंने प्रशिक्षण डेटा प्रदान किया, जिन्होंने परिणामों को मान्यता दी, और जिन्होंने डिज़ाइन के निर्णय लिए। इस निर्णय श्रृंखला का एक जनसांख्यिकीय प्रोफ़ाइल होता है। हमेशा।
स्मार्टफोन का ऑटो-करrection एक प्रलेखित इतिहास रखता है जिसमें असफलताएँ यादृच्छिक नहीं होतीं। यह अफ्रीकी, लैटिन अमेरिकी या अरब-स्रोत नामों को अधिक बार ठीक करता है। यह ऐसे वाक्य संरचनाओं का सुझाव देता है जो इंग्लिश स्टैंडर्ड के रूप में मानक प्रतीत होते हैं, और किसी भी विचलन को त्रुटि मानता है। यह तकनीकी असफलता का एक बिंदु नहीं है: यह उन मॉडल को प्रशिक्षित करने का परिणाम है जिनका कॉर्पस विशिष्ट भाषाई और सामाजिक-आर्थिक प्रोफाइल को अधिरोपित करता है। जब Apple इस तर्क को कृत्रिम बुद्धिमत्ता की एक अतिरिक्त परत के साथ बढ़ाता है जो वैकल्पिक शब्दों का सुझाव देता है, तो समस्या गायब नहीं होती: यह गहराती है और स्वचालित होती है।
कॉर्पोरेट दृष्टि के अंधे स्थान की वास्तुकला
मुझे जो विश्लेषण करना है वह यह नहीं है कि क्या Apple की खराब मंशा है, बल्कि यह है कि क्या इसके पास बाजार में आने से पहले इस जोखिम का पता लगाने के लिए आवश्यक संगठनात्मक वास्तुकला है। ये दो प्रश्न पूरी तरह से अलग हैं और दूसरा वह है जिसका वित्तीय परिणाम होता है।व्यक्तिगत भाषा डिज़ाइन करने वाली टीमें आम तौर पर अपने प्रोफाइल में समरूप होती हैं: समान तकनीकी पृष्ठभूमि, समान भौगोलिक क्षेत्र, एक ही नेटवर्क के नोड्स को साझा करने वाले कैरियर पथ। यह साझा प्रोफाइल बुराई नहीं करता; यह सिस्टेमेटिक ब्लाइंड स्पॉट उत्पन्न करता है। एक टीम जहां सभी एक समान संदर्भ भाषाई साझा करते हैं, एक ऐसे उपयोगकर्ता के अनुभव का अनुकरण नहीं कर सकती जिसका पहला भाषा टागालोग, स्वाहिली या कैरिबियन स्पेनिश है। यह सिर्फ इसलिए नहीं है कि उनकी भावनाएँ नहीं हैं, बल्कि इसलिए कि उनकी सूचना संरचना की कमी है।
इसका एक व्यावसायिक लागत होती है जिसे मापा जा सकता है। Apple 175 से अधिक देशों में कार्य कर रहा है। iPhone उन बाजारों में महत्वपूर्ण उपस्थिति रखता है जहां अंग्रेजी प्रमुख भाषा नहीं है और जहां भाषाई पैटर्न उस कॉर्पस से नाटकीय रूप से भिन्न होते हैं जिस पर संभवतः इसके मॉडल प्रशिक्षित किए गए थे। हर बार जब स्मार्ट कीबोर्ड एक ऐसा शब्द सुझाता है जो उस उपयोगकर्ता के लिए सांस्कृतिक रूप से अप्रासंगिक या सीधे अनुपयुक्त होता है, Apple एक ग्राहक बनाए रखने का अवसर खोता है। सैकड़ों मिलियन उपकरणों के पैमाने पर, उस संग्रहित घर्षण को उपयोगकर्ता अनुभव का मुद्दा नहीं माना जा सकता: यह मूल्य की हानि होती है।
इस प्रक्रिया में किसी भी CPO या CTO की मेज़ पर होने वाला ऑपरेशनल प्रश्न सीधा है: मॉडल के सुझावों का मान्यता देने वाले प्रोफाइल में से कितने लोगों की मातृ भाषा मानक एंग्लो-सैक्सन इंग्लिश से भिन्न है? यदि उत्तर उपलब्ध नहीं है या कभी पूछा नहीं गया, तो यह पहले से ही एक पर्याप्त निदान है।
जब कोई ऑडिट नहीं करता है, मॉडल क्या सीखते हैं
एक तकनीकी तंत्र है जिसे स्पष्ट करना महत्वपूर्ण है क्योंकि यह कॉर्पोरेट इरादों से स्वतंत्रता से काम करता है।जो भाषा मॉडल टेक्स्ट सुझाव उत्पन्न करते हैं, वे सांख्यिकीय पैटर्न के आधार पर सीखते हैं: कौन से शब्द सबसे अधिक बार एक साथ आते हैं, कौन सी संरचनाएँ विशिष्ट संदर्भों में अधिक सामान्य हैं, कौन से वैकल्पिक शब्द समान समागम में मौजूद हैं।
जब वह प्रशिक्षण कॉर्पस प्रतिनिधि नहीं होता, तो मॉडल भाषा नहीं सीखता; वह भाषा का एक संस्करण सीखता है। और यह संस्करण उत्पाद में ऐसे आता है जैसे कि यह तटस्थ हो, जैसे कि यह मानक हो। जो उपयोगकर्ता रियो प्लेटेंस स्पेनिश, हिंदी के अंतरों के साथ इंग्लिश, या ब्राजीलियाई क्षेत्रीयismos से भरा पुर्तगाली में लिखता है, उसे ऐसा कीबोर्ड नहीं मिलता है जो उसकी सहायता करे: उसे ऐसा कीबोर्ड मिलता है जो उसे एक मानक की ओर सुधारता है जो उसे नहीं pertenece।
तकनीकी उद्योग के पास इस फ़ेनॉमेना के बारे में संचयी सबूत हैं। फेस पहचान प्रणालियों ने काली त्वचा वाली महिलाओं के चेहरे पर त्रुटि दर में उल्लेखनीय रूप से अधिक साबित किया। प्राकृतिक भाषा के प्रसंस्करण मॉडल ने शब्दों में लिंग के पक्षपातों को दोहराया। स्वचालित भर्ती प्रणालियों ने अफ्रीकी-स्रोत नामों के साथ सीवी को दंडित किया। इन सभी मामलों में समस्या तकनीक में नहीं थी बल्कि वही टीम थी जिसने इसे मान्य किया।
Apple के पास वास्तविक भौगोलिक और जनसांख्यिकीय विविधता के साथ भाषाई ऑडिटिंग प्रक्रियाएं स्थापित करने के लिए संसाधन हैं। महत्वपूर्ण यह है कि क्या यह ऑडिट विकास प्रक्रिया का हिस्सा है या यदि यह, सबसे अच्छे परिदृश्य में, केवल उपयोगकर्ताओं द्वारा तकनीकी सहायता के माध्यम से रिपोर्ट किए गए समस्याओं के बाद होती है। इन दोनों रास्तों के बीच का अंतर दार्शनिक नहीं है: पहला पुनरावृत्ति की लागत को कम करता है और लॉन्च की लोकप्रियता की रक्षा करता है; दूसरा इसे उपयोगकर्ता पर हस्तांतरित करता है और इसे नकारात्मक अनुभव के डेटा में बदल देता है।
सामाजिक पूंजी उत्पाद का आधारभूत ढांचा
एक संरचनात्मक सबक है जो Apple के विशिष्ट मामले को पार करता है और किसी भी संगठन पर लागू होता है जो वैश्विक स्तर पर भव्यता वाले कृत्रिम बुद्धिमत्ता साधनों को विकसित करता है। डिजाइन टीमों में विविधता मानव संसाधन का एक चर नहीं है; यह उत्पाद की गुणवत्ता का एक चर है।जब टीमें समरूप नेटवर्क पर बनाई जाती हैं, जहाँ सभी एक ही स्नातक कार्यक्रमों, एक ही व्यवहारिक समुदायों और एक ही संदर्भित सर्किट से आते हैं, तो टीम के भीतर जो जानकारी संचालित होती है वह पुनरावृत्ति होती है। सभी एक ही संदर्भ साझा करते हैं, उपयोगकर्ता मानक के बारे में समान धारणाएं रखते हैं, और यह मूल्यांकन करते हैं कि क्या कुछ कार्य करता है या विफलता के लिए समान बिंदु प्रारंभ करते हैं।
ऐसी नेटवर्क स्थिर और प्रेक्षित परिवेशों में कुशल होती हैं। ऐसे परिवेशों में जहां उत्पाद को विभिन्न संदर्भों वाले लाखों लोगों के लिए कार्य करना चाहिए, वह दक्षता नाजुकता में बदल जाती है।
केन्द्रित नेटवर्क, जहां बुद्धि विभिन्न प्रोफाइल में वितरित होती है जिनके पास अद्वितीय जानकारी तक पहुँच होती है, कुछ प्रक्रियाओं में धीमी होती हैं और आंतरिक चर्चाओं में अधिक शोर करती हैं। लेकिन वे ऐसे अभिकर्ता हैं जो यह पहचान सकते हैं, लॉन्च से पहले, कि मॉडल ऐसे शब्द सुझा रहे हैं जो दक्षिणी भाषा में अपमानजनक या दक्षिण-पूर्व एशिया में अप्रासंगिक हैं। उस प्रारंभिक पहचान की क्षमता में वित्तीय मूल्य होता है जिसे उत्पाद टीमें अक्सर विविधता में निवेश पर रिटर्न मेट्रिक्स में नहीं शामिल करतीं।
जब अगली बार कोई तकनीकी कार्यकारी दावा करे कि टीम की विविधता मध्य-काल के लिए एक लक्ष्य है, तो ठोस उत्तर यह है: उत्पाद में पक्षपात को लॉन्च के बाद सुधारने की लागत, प्रतिष्ठान को संबंधित करना, जनसंपर्क के चक्र और प्रभावित बाजारों में उपयोगकर्ता खोने की लागत हमेशा एक अच्छे शुरुआती सुरक्षा से ज्यादा होती है।
निर्णय लेने वाले स्तर पर उत्पाद की सीमाओं को मंजूरी
किसी स्मार्ट कीबोर्ड को वैश्विक बाजार में लाने का निर्णय एक गणितीय मॉडल नहीं लेता। यह एक समूह के लोगों द्वारा लिया जाता है जो एक कमरे में होते हैं, या एक श्रृंखला की कार्यकारी प्रस्तुतियों में, जो यह मूल्यांकन करते हैं कि क्या उत्पाद तैयार है। इन व्यक्तियों के साथ उनकी अपनी भाषाई अनुभव, उनकी सहजता कि कीबोर्ड पर क्या प्राकृतिक लगता है और उनकी उस सीमा पर उनके अपने विश्वास कि वे किसे स्वीकार्य त्रुटि मानते हैं।यदि वह समूह आपस में संरचनात्मक रूप से समान है, तो उत्पाद जिसे वे अनुमोदित करते हैं, वह समानता को अपनी पूंजी में लाता है। यह न तो इरादे के रूप में होता है, बल्कि एक संगठनात्मक आर्किटेक्चर के परिणाम के रूप में जो यह देखने के लिए डिज़ाइन नहीं की गई कि समूह को क्या दिखाई नहीं दे रहा है।
किसी भी नेतृत्व के लिए जो एक संवादात्मक भाषा के उपकरण का लॉन्च मंजूर करने वाला है, कार्य स्पष्ट है: जाना लाने से पहले, उस टीम का जनसांख्यिकीय और भाषाई प्रोफाइल देखने की मांग करें जो मॉडल के सुझावों को मान्यता दी। यदि वह प्रोफ़ाइल समान है, तो उत्पाद में तकनीकी ऋण है जिसे बाजार ब्याज के साथ वसूल करेगा। जो निदेशको केवल मॉडल के प्रदर्शन के उपायों पर ध्यान देते हैं बिना उन टीमों की संरचना का ऑडिट किए, वे तकनीकी प्रगति के रूप में एक रूपांतरित संरचनात्मक नाजुकता को मंजूरी दे रहे हैं। अपने अगले लॉन्च से पहले अपनी मेज़ पर एक नज़र डालें: यदि उस मेज पर सभी एक ही लहज़ा, वही यात्रा और वही मातृ भाषा साझा करते हैं, तो आप जानते हैं कि वे क्या ख़तरनाक हैं।
