لماذا أصبحت أطر التقييم الأصلَ الاستراتيجي الأكثر إهمالاً في الذكاء الاصطناعي المؤسسي
ثمة نمط يتكرر في المؤسسات التي تمضي ثمانية عشر شهراً في نشر وكلاء الذكاء الاصطناعي: هي تعلم أن الأنظمة تعمل، لأنها رأتها تعمل في العرض التجريبي. أما ما لا تعلمه فهو إن كانت لا تزال تعمل اليوم، في بيئة الإنتاج الفعلية، على بيانات عملائها، ضمن التدفقات التي تهم حقاً. وفي تلك المسافة الفاصلة بين يقين المرحلة التجريبية وغموض البيئة الحقيقية، تضيع الميزانيات والثقة والوقت الذي لا يملكه أحد.
قُدِّرت قيمة سوق منصات تقييم نماذج الذكاء الاصطناعي والقياس المرجعي بـ1.6 مليار دولار في عام 2025، ويُتوقع أن تبلغ 19.8 مليار دولار بحلول عام 2034، بمعدل نمو سنوي مركب قدره 35.2%. هذه الأرقام لا تصف مجالاً تقنياً ضيقاً، بل تصف تأسيساً مؤسسياً لسؤال كان ينبغي للشركات أن تطرحه منذ البداية: كيف أعرف أن هذا يعمل فعلاً؟
كانت الإجابة، حتى وقت قريب، مثيرة للقلق. اعتمدت معظم المؤسسات على معايير قياسية عامة تقيس مدى جودة استجابة النموذج في ظروف موحّدة. وهي مفيدة لمقارنة النماذج ببعضها، لكنها شبه عديمة الصلة بتحديد ما إذا كان النموذج يعالج فواتير شركتك بشكل صحيح، أو يُصعّد تذاكر الدعم المناسبة، أو يُحدّث سجلات نظام إدارة علاقات العملاء دون إدخال أخطاء صامتة.
من روبوت المحادثة إلى الوكيل: لماذا تغيّر ما ينبغي قياسه
في السنوات الأولى من الانتشار الواسع للذكاء الاصطناعي التحادثي، كان السؤال المحوري بسيطاً: هل استجاب النظام استجابةً صحيحة؟ وكان المُقيِّم في الواقع إنساناً يقرأ الإجابة ويقرر ما إذا كانت تبدو متماسكة وكاملة وملائمة. كانت طريقة بدائية، لكنها كانت تنجح لأن الأنظمة أيضاً كانت بدائية. كانت تُنتج نصوصاً. ولم تكن تفعل شيئاً أكثر من ذلك.
الوكلاء فئة مختلفة تماماً. لا يستجيب وكيل الذكاء الاصطناعي فحسب؛ بل يتصرف. يستدعي واجهات برمجة التطبيقات، ويستعلم قواعد البيانات، ويُحدّث السجلات، وينفّذ خطوات متسلسلة على أنظمة حقيقية. وقد يتخذ عشرات القرارات الوسيطة قبل إتمام مهمة واحدة. وقد يصل إلى النتيجة الصحيحة عبر مسارات مختلفة تماماً في كل تنفيذ.
هذا يُفكّك نموذج التقييم الموروث من حقبة روبوتات المحادثة. فإذا كان الوكيل قادراً على اتخاذ مسارات متعددة لإتمام الهدف ذاته، فإن تقييم كل خطوة وسيطة لم يعد له معنى عملي. ما يهم هو الحالة النهائية للعالم بعد أن تصرّف الوكيل: هل سُجّل الحجز بالمعاملات الصحيحة؟ هل جرى تحديث قاعدة البيانات بالصف المقابل؟ هل أُرسلت الرسالة إلى القناة المحددة؟ ينتقل التقييم من تحليل الخطوات إلى تحليل التأثيرات.
لهذا الانتقال انعكاس مباشر على البنية التقنية. لقياس التأثيرات، تحتاج إلى بيئة قادرة على احتوائها: قواعد بيانات محاكاة، وأدوات مهيّأة ببيانات اختبار، و"عالَم" مضبوط يعمل فيه الوكيل ويتيح مقارنة الحالة قبل كل مهمة وبعدها. هذا ما يُسمى حزمة التقييم — وهي بيئة اختبار محكومة تُعيد إنتاج ظروف الإنتاج دون الكشف عنها —. بناؤها يستلزم استثماراً وتصميماً متعمّداً وتعريفات مسبقة لا تزال كثير من المؤسسات تفتقر إليها.
المشكلة ليست تقنية. إنها مشكلة أولويات. تستثمر الشركات في بناء الوكلاء وتُقلّل بشكل منهجي من تقدير تكلفة معرفة ما إذا كانت هذه الوكلاء تعمل.
الهوة بين المعيار القياسي والأعمال التجارية
تعاني المعايير القياسية العامة من عيب هيكلي حين تُطبَّق على السياقات التجارية: فقد صُمِّمت لمقارنة النماذج، لا للتحقق من صحة سير العمل. قد يتصدر نموذجٌ ما قائمة الترتيب في الاستدلال الرياضي ثم يفشل باستمرار في معالجة حقول أمر الشراء بالصيغة الخاصة التي يستخدمها نظام تخطيط موارد مؤسستك.
هذا ليس حجة ضد المعايير القياسية، بل حجة ضد استخدامها بديلاً عما يتعين على المؤسسات بناؤه بنفسها: مجموعات تقييم خاصة بتدفقاتها العملية، مع حالات اختبار تمثّل سياق مستخدميها والنتائج المتوقعة المُرمَّزة كمرجع قابل للتحقق.
بناء مجموعة التقييم هذه — ما يُعرف عملياً بـالحقيقة الأساسية، أي النتائج الصحيحة التي ينبغي للنظام إنتاجها — هو على الأرجح الخطوة الأكثر استهانةً في العملية بأكملها. فهي تستلزم أن يجلس شخص مُلمّ بالأعمال ليُحدّد، مهمةً بمهمة، ما يعنيه التنفيذ الصحيح. لا بشكل مجرد، بل بشكل ملموس: إذا عالج الوكيل إلغاء رحلة جوية، فأي صف ينبغي حذفه من قاعدة البيانات؟ وأي رسالة ينبغي توليدها؟ وأي أداة كان ينبغي استدعاؤها وبأي معاملات؟
هذه التحديدية مزعجة لأنها تستلزم عملاً بشرياً متخصصاً لا يمكن أتمتته في البداية. لكنها تحديداً ما يجعل نظام التقييم اللاحق موثوقاً. فبدون ذلك الإرساء، أي مقياس تنتجه يقيس شيئاً ما، لكن لا أحد يستطيع أن يؤكد أن ذلك الشيء وثيق الصلة بالأعمال.
وثمة مبدأ تصميمي يظهر حين تنضج أنظمة التقييم: لا ينبغي أن تكون الحقيقة الأساسية صارمة للغاية. فالوكلاء القادرون على الاستدلال يمتلكون القدرة على إيجاد مسارات جديدة لحل المشكلات. ونظام التقييم الذي يُعاقب على أي انحراف عن المسار المتوقع ينتهي به الأمر إلى قمع القدرة التي يُفترض به أن يقيسها. التحدي يكمن في تعريف معايير النجاح بدقة كافية لاكتشاف الأخطاء، ومرونة كافية في الوقت ذاته لتحمّل الاختلاف المشروع.
لا يتحقق هذا التوازن بمراجعة واحدة، بل يُبنى بشكل تكراري، من خلال دمج حالات الفشل الفعلية وشكاوى المستخدمين والسيناريوهات الحدية التي لم يستوعبها النظام الأصلي.
كيف تُغيّر أدوات التقييم المستمر اقتصاديات المخاطر
من أقل عواقب بناء حزم تقييم متينة نقاشاً ما تفعله بالاقتصاديات المترتبة على المخاطر التشغيلية. حين لا يتوفر لديك نظام تقييم مستمر، يصبح كل تغيير في النموذج أو في نص التوجيه أو في سير العمل رهاناً. يمكنك اختبار بعض الحالات يدوياً، لكن التغطية تظل جزئية وتكلفة الاختبار تتزايد مع كل قدرة جديدة تُضيفها.
مع حزمة تقييم تعمل تلقائياً على كل تغيير، يتبدّل ملف المخاطر بشكل جوهري. تُكتشف الانحدارات قبل وصولها إلى الإنتاج. تُكشف الأخطاء التي نشأت عند ضبط نص توجيه لتحسين السلوك في سيناريو ما، إذا أفضت إلى تدهور السلوك في سيناريو آخر. يستطيع الفريق التكرار بوتيرة أسرع تحديداً لأن لديه رؤية فورية لأثر كل تغيير.
لهذه الآلية عاقبة مالية مباشرة. المؤسسات التي تنشر الذكاء الاصطناعي في بيئة الإنتاج دون تقييم مستمر لا توفّر تكلفة بناء ذلك النظام: بل تنقل تلك التكلفة إلى عملائها في هيئة أخطاء، وإلى فريق الدعم في هيئة تذاكر، وإلى الإدارة في هيئة حوادث تستوجب التفسير. التكلفة موجودة في كل الأحوال. الفرق أنه بدون الحزمة، تُدفع متأخرة ودون رؤية واضحة.
تُتيح أنظمة التقييم المُحكمة البناء أيضاً ما نادراً ما يستطيع فرق الذكاء الاصطناعي فعله من دونها: إثبات التحسن المستدام. حين يكون المعيار القياسي محدداً وسجل المقاييس موجوداً، يصبح بمقدورك إظهار أن الدقة في بيئة الإنتاج ارتفعت ثلاث نقاط مئوية عقب آخر تعديل للنموذج، أو أن متوسط وقت إتمام المهمة انخفض خمس عشرة ثانية. هذه هي الأرقام التي يستطيع المدير المالي قراءتها، والتي تحوّل الإنفاق على الذكاء الاصطناعي من بند تكلفة إلى استثمار ذي عائد موثّق.
يُقدَّر سوق منصات عمليات تعلّم الآلة، الذي يشمل البنية التحتية للمراقبة والنشر والتقييم، بما بين 2.8 و4.5 مليار دولار في عام 2026، ويستهدف ما بين 37 و89 مليار دولار للفترة 2032–2035. هذا الحجم لا يعكس مجرد تبنٍّ تقني، بل يعكس أن المؤسسات باتت تدرك أن تشغيل الذكاء الاصطناعي بلا أدوات جودة هو معادل لتشغيل بنية تحتية حيوية بلا مراقبة. لا أحد يجادل في ذلك حين يتعلق الأمر بخادم إنتاجي. غير أنه مع وكلاء الذكاء الاصطناعي، لا يزال هذا الأمر بحاجة إلى شرح وإقناع.
الحوكمة التي تسبق النموذج
ثمة خلط شائع في المؤسسات التي تبني قدرات ذكاء اصطناعي وكيلي: تتعامل مع التقييم باعتباره خطوة أخيرة، شيئاً يُنجز بمجرد أن يكون النظام جاهزاً. تبدو المنطق معقولاً: تبني أولاً، ثم تقيس.
المشكلة أن البناء دون تعريف مسبق لما يعنيه العمل الصحيح هو بناء بلا مواصفات. والأنظمة التي تُبنى بلا مواصفات لا تفشل بأشكال واضحة وصاخبة؛ بل تفشل بأشكال تدريجية وصامتة لا تتضح إلا حين تكون قد أثّرت فعلاً على مستخدمين حقيقيين.
يجب أن يسبق الاستثمار في التقييم النشرَ، لا أن يتبعه. وهذا يعني أنه قبل كتابة السطر الأول من كود الوكيل، يجب أن يكون شخص ما قادراً على الإجابة بدقة عن: ما المهام التي سيؤتمت؟ وما الذي يُشكّل تنفيذاً ناجحاً لكل منها؟ وما الأدوات المسموح له باستدعائها وتحت أي ظروف؟ وكيف يُكتشف الخطأ قبل وصوله إلى العميل؟
هذه الأسئلة ليست تقنية. إنها أسئلة تجارية. وحقيقة أن كثيراً من فرق الهندسة تُجيب عنها وحدها، دون إشراك من يعرفون سير العمل الذي يجري أتمتته، تُفسّر جزءاً كبيراً من مشاريع الذكاء الاصطناعي التي تُنتج عروضاً تجريبية متينة ونتائج إنتاجية مخيّبة للآمال.
التقييم المستمر ليس الطبقة التي تتحقق من أن النظام يعمل. إنه الطبقة التي تُجبر المؤسسة على تعريف ما يعنيه العمل، بدقة كافية لأن تتمكن الآلة من التحقق منه. وتلك الدقة هي في حد ذاتها أصل حقيقي. المؤسسات التي تبنيها تطور فهماً لتدفقاتها العملية الداخلية ونادراً ما كانت موثّقة من قبل. وهذا الفهم هو ما يُتيح توسيع نطاق الوكلاء بثقة، لا الثقة في النموذج بحد ذاته.
النموذج قابل للاستبدال. أما المواصفات التي تُحدد ما يجب عليه فعله، والنظام الذي يتحقق من أنه يؤدّيه، فلا يُستعاض عنهما.
