वह टैक्स जो किसी ने बजट में नहीं रखा, कॉर्पोरेट AI एजेंट्स को डुबो रहा है

वह टैक्स जो किसी ने बजट में नहीं रखा, कॉर्पोरेट AI एजेंट्स को डुबो रहा है

एंटरप्राइज़ टेक्नोलॉजी अपनाने में एक खास मोड़ आता है जब उत्साह एक अकाउंटिंग दायित्व में बदल जाता है। कॉर्पोरेट उत्पादों में एम्बेड किए गए आर्टिफिशियल इंटेलिजेंस एजेंट्स के साथ, वह मोड़ अधिकांश तकनीकी टीमों की अपेक्षा से पहले आ गया — और जिस चीज़ ने इसे ट्रिगर किया, वह न तो गलत लैंग्वेज मॉडल था और न ही डेटा की कमी। वह एक आर्किटेक्चर निर्णय था जिसे कभी निर्णय के रूप में प्रस्तुत ही नहीं किया गया।

Camila RojasCamila Rojas9 जुलाई 20269 मिनट
साझा करें

वह कर जो किसी ने बजट में नहीं जोड़ा, कॉर्पोरेट AI एजेंटों को डुबो रहा है

एंटरप्राइज़ तकनीक को अपनाने में एक विशेष क्षण होता है जब उत्साह एक लेखांकन दायित्व में बदल जाता है। कॉर्पोरेट उत्पादों में एम्बेड किए गए आर्टिफिशियल इंटेलिजेंस एजेंटों के साथ, वह क्षण उससे कहीं पहले आ गया जितना अधिकांश तकनीकी टीमों ने अनुमान लगाया था, और जिस तंत्र ने इसे शुरू किया वह न तो गलत भाषा मॉडल था और न ही डेटा की कमी। वह एक आर्किटेक्चर संबंधी निर्णय था जिसे किसी ने निर्णय के रूप में प्रस्तुत ही नहीं किया।

इसे "संदर्भ कर" (context tax) कहना — जैसा कि Anthropic की इंजीनियरिंग टीम और बढ़ती संख्या में विश्लेषक इसे कहते हैं — एक सटीक नामकरण है। इसलिए नहीं कि यह रूपक है, बल्कि इसलिए कि यह ठीक उसी तरह काम करता है जैसे एक कर काम करता है: प्रत्येक व्यक्तिगत लेनदेन में अदृश्य, लेकिन कुल मिलाकर विनाशकारी। जब भी कोई एंटरप्राइज़ एजेंट पाँच पंक्तियों के डेटा के बारे में एक प्रश्न को संसाधित करने के लिए 150 किलोबाइट का कच्चा HTML प्राप्त करता है, तो कंपनी लगभग 37,500 inference tokens का भुगतान करती है जो कोई मूल्य उत्पन्न नहीं करते। इसे प्रत्येक सक्रिय उपयोगकर्ता से, प्रत्येक सत्र से, स्केलिंग के प्रत्येक महीने से गुणा करें, और जो एक तकनीकी विवरण प्रतीत होता है, वह वह तत्व बन जाता है जो यह तय करता है कि उत्पाद का सकल मार्जिन जीवित रहेगा या नहीं।

इस पारिस्थितिकी तंत्र में प्रसारित होने वाले डेटा इसे विभिन्न कोणों से पुष्टि करते हैं। Splunk के पृथक एजेंट लागत विश्लेषण ने दस्तावेज़ किया कि कैसे एकल ग्राहक सहायता इंटरैक्शन तीन वर्षों में चार सेंट से बढ़कर एक डॉलर बीस सेंट हो गई, यहाँ तक कि जब प्रति-टोकन मूल्य गिर रहे थे। उस वृद्धि के पीछे का तंत्र प्रदाता मुद्रास्फीति नहीं थी: यह उस संदर्भ का आयतन था जिसे एजेंट प्रवाह के प्रत्येक चरण में पुनः प्रसारित कर रहा था। Concordia University के एक अध्ययन ने agentik प्रवाहों में इनपुट और आउटपुट टोकन के बीच के अनुपात को 2:1 मापा, और पाया कि केवल कोड समीक्षा प्रत्येक खर्च किए गए टोकन का 59% उपभोग करती थी। ये ऐसी संख्याएँ हैं जो बुनियादी ढाँचे के बजट को रोडमैप पर दिखाई देने वाली चीज़ से बिल्कुल अलग बना देती हैं।

जो निर्णय यह कहे बिना लिए जाते हैं कि निर्णय लिए जा रहे हैं

Forbes Technology Council के विश्लेषण का केंद्रीय तर्क — जो Walmart Global Tech में एक सॉफ़्टवेयर इंजीनियर द्वारा लिखा गया है जो marketplace में विक्रेताओं के लिए agentik अनुभवों के निर्माण का नेतृत्व करता है — उपकरणों या प्रदाताओं के बारे में नहीं है। यह तीन आर्किटेक्चर संबंधी निर्णयों के बारे में है जो टीमें चूक के कारण लेती हैं, इससे पहले कि कोई उन्हें डिज़ाइन बैठक में नाम दे।

पहला निर्णय वह प्रतिनिधित्व है जो मॉडल को प्राप्त होता है। कच्चे HTML, स्क्रीनशॉट और सिमेंटिक अंशों के बीच प्रति कार्य लागत में 30 से 50 गुना का अंतर है, जिसका सटीकता पर प्रभाव उस दिशा में जाता है जो अंतर्ज्ञान से विपरीत है। AgentOccam एजेंट पर Amazon Science के शोध ने WebArena बेंचमार्क में दृश्य प्रतिनिधित्व से संरचित एक्सेसिबिलिटी ट्री में बदलाव करके 29.4% का सुधार दस्तावेज़ किया। मॉडल नहीं बदला। मॉडल जो देखता था वह बदला।

दूसरा निर्णय कैप्चर का क्षण है। जब कोई एजेंट सबमिशन के क्षण के बजाय पेज लोड के समय पेज की स्थिति लेता है, तो वह लोडिंग कंकाल कैप्चर करता है, न कि वे डेटा जो उपयोगकर्ता देख रहा है। रिपोर्ट उन मामलों का वर्णन करती है जहाँ API के जवाब देने से 1,500 मिलीसेकंड पहले स्नैपशॉट ट्रिगर हो जाता था। एजेंट एक खाली पेज से आत्मविश्वास के साथ जवाब देता था। यह तकनीकी अर्थ में मतिभ्रम (hallucination) नहीं है: यह गलत संदर्भ है जो गलत क्षण पर परोसा जा रहा है।

तीसरा निर्णय वह है जो सीधे नहीं भेजा जाता। एक हल्का क्लासिफायर जो पुनर्प्राप्ति से पहले रूट करता है, वास्तविक प्रवाहों में 70% से 85% संदर्भ स्नैपशॉट को समाप्त कर सकता है। एक उपयोगकर्ता जो पूछता है कि बैच में कोई कॉन्फ़िगरेशन कैसे अपडेट किया जाए, उसे दस्तावेज़ीकरण की आवश्यकता है, न कि उसके वर्तमान डेटा दृश्य की तस्वीर की। ये ऐसे टोकन हैं जो कभी खर्च ही नहीं होते।

जो बात इन तीन निर्णयों को विशेष रूप से महंगा बनाती है वह यह नहीं है कि वे बुरे निर्णय हैं: बल्कि यह है कि कोई भी उन्हें निर्णय के रूप में प्रस्तुत नहीं करता। वे डिफ़ॉल्ट रूप से निष्पादित होते हैं। कच्चा HTML वह विकल्प है जिसके लिए कोई प्री-प्रोसेसिंग की आवश्यकता नहीं है। लोड पर कैप्चर वह है जो फ्रेमवर्क स्वचालित रूप से करता है। सभी उपलब्ध संदर्भ भेजना "सुरक्षित" लगता है। उस जड़ता की एक कीमत होती है।

एक आंतरिक उत्पाद और एक बाज़ार उत्पाद के बीच का अंतर

विश्लेषण एक बिंदु को सटीकता से अलग करता है जिसे एंटरप्राइज़ एजेंटों पर अधिकांश चर्चाएँ पर्याप्त स्पष्टता से नहीं अलग करतीं: एक ऐसे एजेंट के बीच एक संरचनात्मक अंतर है जो आंतरिक कर्मचारियों की सेवा करता है और एक जो एक वाणिज्यिक मल्टीटेनेंट उत्पाद में एम्बेड किया गया है।

एक आंतरिक IT टीम एक खराब संदर्भ आर्किटेक्चर को अवशोषित कर सकती है। वे इसे फिर से तैनात करते हैं। इसे समायोजित करते हैं। उनके पास एक नियंत्रित blast radius है। एक B2B सॉफ़्टवेयर प्रदाता जो अपने उत्पाद में AI सहायक एम्बेड करता है, वह प्रति सीट चार्ज करता है, न कि प्रति बुनियादी ढाँचे के अनुसार। संदर्भ प्रतिनिधित्व में प्रत्येक अक्षमता एक साथ पूरे ग्राहक आधार पर गुणा हो जाती है। प्रति सक्रिय उपयोगकर्ता लागत जो नोट में वर्णित है — सामान्य उपलब्धता के आठ हफ्तों में 0.40 से 1.10 डॉलर प्रति माह तक जाना — एक गलत-कैलिब्रेटेड तैनाती की कोई उपाख्यान नहीं है: यह वह यांत्रिकी है जो तब होती है जब आप संदर्भ आर्किटेक्चर का ऑडिट किए बिना स्केल करते हैं।

Chroma ने 2025 में 18 फ्रंटियर मॉडलों का एक मूल्यांकन प्रकाशित किया जो समस्या में एक और आयाम जोड़ता है। सटीकता केवल तब नहीं घटती जब संदर्भ महंगा होता है: यह तब भी घटती है जब संदर्भ विस्तृत होता है। इनपुट संदर्भ का जितना अधिक आयतन, लंबे संदर्भ कार्यों में सटीकता की उतनी अधिक हानि, मॉडल की परवाह किए बिना। संदर्भ कर केवल एक मार्जिन समस्या नहीं है। यह एक उत्पाद समस्या है।

यह चर्चा को एक तरीके से पुनः रूपांतरित करता है जिसे परियोजना अनुमोदन समितियाँ शायद ही कभी स्पष्ट करती हैं। जब यह मूल्यांकन किया जाता है कि किसी SaaS प्लेटफ़ॉर्म में AI एजेंट को शामिल किया जाए या नहीं, तो बातचीत आमतौर पर मॉडल, प्रदाता और डेटा सुरक्षा पर केंद्रित होती है। संदर्भ प्रतिनिधित्व आर्किटेक्चर लगभग कभी भी उस बातचीत में सकल मार्जिन निहितार्थों वाले एक चर के रूप में प्रकट नहीं होता। यह बाद में, पोस्टमार्टम में प्रकट होता है, जब फीचर ने मार्जिन विस्तार का वादा किया था और उन्हें संकुचित करके दिया।

पहली विफलता की लहर के बाद आने वाला बाज़ार

Gartner का सांख्यिकी जो 2027 के अंत से पहले 40% से अधिक agentik परियोजनाओं के रद्दीकरण का अनुमान लगाती है, केवल तकनीकी परिपक्वता के बारे में एक चेतावनी नहीं है। यह किसी भी अपनाने के चक्र के बाद होने वाली डिबगिंग प्रक्रिया का एक अग्रिम विवरण है जहाँ छुपी हुई लागतें मूल अनुमानों से अधिक हो जाती हैं। MIT के विश्लेषण ने, जिसने पाया कि 95% generative AI तैनाती ने कोई मापने योग्य व्यावसायिक मूल्य उत्पन्न नहीं किया, एक अलग कोण से उसी दबाव को दस्तावेज़ करता है।

एजेंटों पर सार्वजनिक बहस में जो अभी तक स्पष्ट नहीं है वह यह है कि जो संगठन परियोजनाएँ रद्द कर रहे हैं वे मॉडल कारणों से कर रहे हैं या आर्किटेक्चर कारणों से। यदि अधिकांश विफलताओं की जड़ संदर्भ निर्णयों में है — प्रतिनिधित्व, कैप्चर का क्षण, भेजा गया आयतन — तो समस्या यह नहीं है कि एजेंट काम नहीं करते। समस्या यह है कि उन्हें बनाने वाली टीमें गलत चर माप रही हैं।

Hyland ने, उद्यमों में AI के निवेश पर वापसी के अपने विश्लेषण में, गणना की है कि एक एकीकृत एंटरप्राइज़ संदर्भ परत AI और स्वचालन निवेश पर 10.3 गुना तक वापसी उत्पन्न कर सकती है। जो तंत्र वह वर्णित करता है वह सीधा है: जो टीमें प्रत्येक नए एजेंट के लिए एकीकरण, मैपिंग और व्यावसायिक नियमों का पुनर्निर्माण करती हैं, वे एजेंट के संचालन शुरू करने से पहले एक विखंडन कर का भुगतान कर रही हैं। प्रत्येक एजेंट पिछले वाले की आर्किटेक्चर ऋण को विरासत में लेता है। स्केल उस समस्या को हल नहीं करता: यह उसे बढ़ाता है।

जो परिवर्तन उभर रहा है वह कम या ज़्यादा शक्तिशाली भाषा मॉडलों के बीच नहीं है। यह उन संगठनों के बीच है जो संदर्भ आर्किटेक्चर को एक बुनियादी ढाँचा चर के रूप में मानते हैं — जिसे तब अनुकूलित किया जाता है जब समय हो — और जो इसे एक सकल मार्जिन चर के रूप में मानते हैं जिसे पहले तैनाती से पहले डिज़ाइन किया जाता है। दोनों स्थितियों के बीच का अंतर पायलट के पहले महीनों में दिखाई नहीं देता। यह तब दिखाई देता है जब उपयोगकर्ता आधार बढ़ता है और प्रति-क्वेरी लागत वह मीट्रिक बन जाती है जो यह नियंत्रित करती है कि फीचर का अस्तित्व हो सकता है या नहीं।

अगला मोर्चा मॉडल नहीं है, यह है कि संदर्भ पर शासन कौन करता है

भाषा मॉडलों की लड़ाई ने एक समझ में आने वाला भ्रम पैदा किया: कि एंटरप्राइज़ एजेंटों की केंद्रीय समस्या inference की गुणवत्ता थी। वह भ्रम प्रयोग के चरण के दौरान उपयोगी था, जब कंपनियों को यह प्रमाणित करने की आवश्यकता थी कि मॉडल उनके डोमेन में कुछ उपयोगी कर सकते हैं। वह चरण समाप्त हो गया।

जो अब शुरू होता है — और जो संदर्भ कर पर विश्लेषण को इसके तकनीकी विवरणों से परे प्रासंगिक बनाता है — वह यह है कि एंटरप्राइज़ संदर्भ परत का निर्माण और शासन कौन करता है, इसके लिए प्रतिस्पर्धा। वह मॉडल नहीं जो तर्क करता है, बल्कि वह बुनियादी ढाँचा जो यह तय करता है कि मॉडल क्या देखता है, कब देखता है और क्या उसे कभी नहीं देखना चाहिए।

संकेत पहले से ही दिखाई दे रहे हैं। CIO Dive का तर्क कि एजेंटों को डेटा तक जाना चाहिए न कि डेटा को एजेंटों की ओर यात्रा करनी चाहिए, उसी गाँठ की ओर इशारा करता है। Seekr का प्रस्ताव कि प्रति सत्यापन योग्य प्रतिक्रिया लागत को मापा जाए — कच्ची प्रति-टोकन लागत के बजाय — एक मीट्रिक पेश करता है जो परिणाम विवरण में संदर्भ कर को पारदर्शी बनाता है। पूर्व-पुनर्प्राप्ति रूटिंग क्लासिफायर जिनका Forbes का विश्लेषण वर्णित करता है, एक घटक है जिसका अभी तक कोई समेकित बाज़ार नाम नहीं है, लेकिन जो एक ऐसे कार्य का प्रतिनिधित्व करता है जिसे परिपक्व agentik प्लेटफ़ॉर्मों को मूल रूप से पेश करना होगा।

उन नेताओं के लिए जो अभी आर्किटेक्चर निर्णयों के बीच हैं, परिचालन सबक किसी भी रणनीतिक ढाँचे से अधिक संकीर्ण है। मॉडल अड़चन नहीं है। संदर्भ प्रतिनिधित्व है। और यह एक डिज़ाइन चर है, न कि कोई प्रदाता निर्णय, जिसका अर्थ है कि इसके परिणामों की जिम्मेदारी आंतरिक है। जो संगठन 2026 में मार्जिन मानदंड के साथ उस परत का निर्माण करते हैं, उनके पास 2027 में प्रति-क्वेरी लागत डेटा होगा जब बाज़ार जवाबदेही माँगना शुरू करेगा। जो नहीं करेंगे वे यह समझाने में लगे होंगे कि AI फीचर जिसने मार्जिन विस्तार का वादा किया था, वह उनके संकुचन का प्रमुख स्रोत क्यों बन गया।

साझा करें

आपको यह भी पसंद आ सकता है