النقطة العمياء التي لا يتحدث عنها أي مسؤول تنفيذي في تقارير الذكاء الاصطناعي
تبدو الصورة الرسمية لتبني الذكاء الاصطناعي في المؤسسات أنيقةً ومنظمةً: استثمارات معتمدة، ومشاريع تجريبية جارية، ولوحات متابعة تعرض مقاييس الإنتاجية. غير أن ثمة طبقةً خفيةً لا تستطيع هذه التقارير استيعابها، وهي بالضبط المكان الذي يتراكم فيه الخطر الحقيقي.
يضع دورة المبالغة في التوقعات الصادرة عن مؤسسة غارتنر الذكاءَ الاصطناعي التوليدي اليوم في "وادي خيبة الأمل"، وهي المرحلة الثالثة من مراحل خمس، حيث تبدأ التوقعات في مواجهة النتائج الفعلية الملموسة. إنه لحظة محاسبة حقيقية. والأرقام الصادرة لا تبعث على الارتياح: توصلت دراسة صادرة عن معهد ماساتشوستس للتكنولوجيا (MIT) وتتداول على نطاق واسع في الأوساط التقنية إلى أن 95% من المشاريع التجريبية للذكاء الاصطناعي التوليدي في المؤسسات تفشل. لا يتعلق الأمر بإخفاقات مدوية، بل بمشاريع لا تُفضي ببساطة إلى أي نتيجة قابلة للقياس.
ما يختبئ وراء هذا الرقم أكثر إثارةً للاهتمام من الرقم ذاته. فهذه ليست مشكلة تكنولوجيا، بل مشكلة في البنية التنظيمية، وفي مستوى الرؤية والوضوح، وفي جوهرها، مشكلة في طريقة إدارة المؤسسات لشيء يتحرك بسرعة تفوق قدرتها على المراقبة.
حين يتجاوز التبني قدرة المراقبة
سلك تبني الذكاء الاصطناعي في المؤسسات الكبرى مسارين متوازيين: توجيه تنفيذي من القمة إلى القاعدة، واستخدام عفوي للأدوات من الفرق التشغيلية من القاعدة إلى القمة. وكلا المسارين يمضيان دون خريطة مشتركة.
والنتيجة هي جرد مبعثر ومتشتت. تستخدم وحدات أعمال مختلفة أدواتٍ مختلفةً لمهام متشابهة، بمستويات رقابة تتراوح بين السيطرة الصارمة والإدارة العشوائية المطلقة. وهذا ليس تفصيلاً هامشياً. إذ تُنتج كل تفاعل مع نظام ذكاء اصطناعي سجلاً سلوكياً: ما الذي يُسأل عنه، وما البيانات التي تُتداول من خلاله، وما سير العمل الذي يُفعّله. هذه المعلومات موجودة، لكنها في معظم الحالات لا تُسجَّل بصورة منهجية ولا تُحلَّل.
المشكلة ليست أن المؤسسات تستخدم الذكاء الاصطناعي بطريقة لامركزية. المشكلة أن القادة يعملون وفق افتراضات حول هذا الاستخدام لا تستند إلى أساس تجريبي. إنهم يظنون أنهم يعرفون أي الأدوات نشطة، وما البيانات التي تمر عبرها وتحت أي ظروف. غير أن هذه المعرفة في الواقع العملي جزئية ومتقادمة في أغلب الأحيان.
تصف مؤسسة ISACA في تحليلها للمخاطر لعام 2026 هذا الوضع بدقة بالغة: ثمة نقطة عمياء في صميم المخاطر المؤسسية المرتبطة بالذكاء الاصطناعي، وهي ليست مشكلة في قدرة النماذج، بل مشكلة في السيطرة على استخدامها. الهشاشة لا تكمن فيما قد تُخطئ فيه النماذج، بل تكمن في أن المؤسسات لا تمتلك رؤية كافية لمعرفة ما يجري على مستوى كل تفاعل.
حين تكون الرؤية ضعيفة، يتخذ الخطر أشكالاً متعددة في آنٍ واحد. هناك تعرّض للبيانات الحساسة عبر أدوات غير مرخصة. هناك وكلاء ذكاء اصطناعي يتمتعون بصلاحيات لم تُراجَع بصورة رسمية قط. هناك قرارات آلية لم يخضعها أحد للتدقيق بعد اعتماد المشروع التجريبي الأولي. وفوق كل ذلك، هناك هوة متسعة باستمرار بين ما يُبلّغ عنه القادة لمستويات أعلى بشأن أداء مبادرات الذكاء الاصطناعي، وما يجري فعلاً على أرض التشغيل اليومي.
ما تكشفه أبحاث الأمان حول النماذج المستخدمة
للنقاش حول النقاط العمياء بُعد تقني يظل في الغالب خارج نقاشات مجالس الإدارة. لقد تغيرت منهجيات تقييم أمان نماذج اللغة الكبيرة، وجاءت النتائج مزعجةً للفرق التي أجازت عمليات التطبيق استناداً إلى المعايير القياسية المعتادة.
يكمن التمييز الجوهري بين اختبارات الدوران الفردي واختبارات الأدوار المتعددة. في الأولى، يُقيَّم ما إذا كان النموذج يرفض تعليمةً إشكاليةً في تفاعل واحد. وفي الثانية، تُحاكى محادثة تكرارية يضبط فيها المهاجم استراتيجيته عقب كل استجابة. والنتائج تتباين بصورة لافتة.
تُظهر أبحاث استشهد بها موقع National CIO Review أن معدلات نجاح الهجمات التحادثية على نماذج كبار المزودين تتراوح بين 7.89% و88.30%، تبعاً للنموذج ونوع الهجوم. هذا ليس ضجيجاً إحصائياً، بل مدى واسع ينبغي أن يُغير طريقة تفكير المؤسسات في متانة الأنظمة التي نشرتها فعلاً.
التداعي العملي لهذه النتيجة واضح ومباشر. المؤسسات التي أجازت عمليات تطبيقها استناداً إلى اختبارات أمان ذات دوران فردي تمتلك صورةً عن المخاطر تُقلّل من شأن ما يجري في ظروف الاستخدام المطوّل أو تحت ضغط الهجمات المتعمدة. والمؤسسات التي لم تُجرِ أي اختبار رسمي قبل النشر تعاني هوةً أوسع بين ثقتها المُعلنة وتعرضها الفعلي للمخاطر.
ولا تنتهي المشكلة عند أمان النموذج. حين يتعلق الأمر بـوكلاء الذكاء الاصطناعي، يتسع نطاق المخاطر توسعاً ملحوظاً. فالوكيل لا يكتفي بالإجابة على الأسئلة، بل يتصرف وينفذ. يمكنه الوصول إلى الأنظمة الداخلية، وتنفيذ العمليات، واتخاذ قرارات مفوَّضة. وهذا يجعله هويةً تشغيليةً داخل المؤسسة، بكل ما ينطوي عليه ذلك من مخاطر: صلاحيات لم تُسحَب قط، وأذونات مُنحت خلال مرحلة التجريب ولم تُعاد هيكلتها قط، ونشاط لا يُسجَّل في أي سجل يُراجعه أحد بانتظام.
يصوغ موقع TechRadar Pro هذا الأمر بعبارة تستحق الاهتمام في أي اجتماع لإدارة المخاطر التشغيلية: المشكلة ليست الذكاء الاصطناعي، بل الوصول الذي مُنح له. المؤسسات التي تُسجّل معدلات حوادث أدنى بفارق ملحوظ هي تلك التي طبّقت ضوابط الامتياز الأدنى على وكلائها، وتلك التي تتعامل معهم كهويات رسمية تستلزم تزويداً، ومراجعةً دوريةً، وإلغاءً للوصول.
إنفاق الذكاء الاصطناعي الذي لا يستطيع تبرير نفسه
ثمة بُعد مالي في هذه المعضلة تتحاشى نقاشات حوكمة الذكاء الاصطناعي عادةً التطرق إليه. فإذا كانت مؤسسة ما لا تستطيع مراقبة كيفية استخدام استثمارها في الذكاء الاصطناعي، فهي بالتالي عاجزة عن قياس عائده بصورة موثوقة.
لهذا تداعيات ملموسة. تُعتمَد ميزانيات الذكاء الاصطناعي استناداً إلى توقعات إنتاجية بُنيت في كثير من الحالات على مشاريع تجريبية مضبوطة لا تمثل ظروف الاستخدام الواسع النطاق. وحين يأتي هذا الاستخدام الواسع، يصطحب معه أدوات غير مرخصة، وتدفقات غير مُشرَف عليها، وسلوكيات لم يتوقعها أحد. قد تتحقق الإنتاجية فعلاً، لكن إذا غابت الرؤية عن مصدرها وعن الظروف التي تنشأ فيها، فإن النتيجة أن القادة لا يستطيعون تكرارها عن قصد ولا توسيع نطاقها بصورة منضبطة.
آلية الهشاشة هنا محددة بدقة: حين تكون الرؤية ضعيفة، يتدفق رأس المال نحو الأداة التي تُسوَّق داخلياً بصورة أفضل، لا نحو تلك التي تُولّد أكبر قيمة. الفرق التي تستخدم الذكاء الاصطناعي بطرق تُنتج نتائج فعلية دون توثيق رسمي تجد نفسها خارج ميزانية الدورة التالية. الفرق ذات العروض التقديمية الأكثر صقلاً وأناقةً تحصل على موارد إضافية حتى وإن كانت مقاييسها أضعف.
هذه ليست مشكلة فساد داخلي، بل مشكلة في بنية المعلومات. فبدون بيانات حول الاستخدام الفعلي، تعمل لجان الاستثمار بناءً على شهادات نوعية بدلاً من أنماط مُرصودة. والشهادات النوعية منحازة بصورة منهجية نحو قصص النجاح، لا نحو الإخفاقات الصامتة التي تتراكم تكاليفها دون توليد قيمة.
ويُفاقم مخاطر الامتثال هذا الوضع المعقد. إذ تتطور اللوائح المتعلقة باستخدام الذكاء الاصطناعي في القطاعات المالية والصحية والبنية التحتية الحيوية بوتيرة أسرع مما توقعته المؤسسات. والسؤال الذي يطرحه المنظمون بالفعل، والذي لا تستطيع كثير من الشركات الإجابة عنه، بسيط في ظاهره: أي نموذج، ببيانات أي نوع، وفق أي سياسة، اتخذ أي قرار؟ العجز عن الإجابة على هذا السؤال ليس مجرد مخاطرة سمعية. إنه في الأسواق الخاضعة للتنظيم خطر يطال الترخيص التشغيلي ذاته.
المشكلة الهيكلية التي لن يحلها دورة المبالغة في التوقعات وحدها
يُظهر النمط التاريخي لتبني التكنولوجيا في المؤسسات أن الهوة بين القدرة والحوكمة لا تنغلق تلقائياً مع مرور الوقت. فقد أفرزت الحوسبة السحابية ما يُعرف بـ"تقنية الظل". وضاعف البرمجيات كخدمة (SaaS) الهويات غير المُدارة. وفتحت التنقل المؤسسي مساحات هجوم احتاج جردها إلى سنوات طويلة. والذكاء الاصطناعي يسلك المسار ذاته، لكن بسرعة انتشار أعلى، ومع فارق جوهري يتمثل في أن الوكلاء قادرون على التصرف، لا على التخزين أو التواصل فحسب.
ما يُفرّق المؤسسات التي ستحقق قيمة مستدامة عن تلك التي ستمتص التكاليف دون عائد ليس النموذج الذي ستختاره ولا المزود الذي ستتعاقد معه. بل هو القدرة على مراقبة استخدامها الخاص بصورة منهجية، ومعاملة بيانات التفاعل كإشارة تشغيلية، وبناء ضوابط على هذه المراقبة قبل أن تصبح المشكلة مرئيةً من الخارج.
المؤسسات التي تتعامل مع هذا الأمر بصورة ناجحة تقوم بثلاثة أشياء ملموسة. أولاً، تُصنّف أصول الذكاء الاصطناعي لديها كما تفعل مع أي أصل برمجي مؤسسي: جرد، وإصدارات، وصلاحيات وصول، ومُلاك مسؤولون. ثانياً، تُطبّق تسجيل النشاط على مستوى التفاعل للأنظمة الحيوية، ليس كمراقبة للموظفين، بل كأساس تجريبي لقرارات الاستثمار وإدارة المخاطر. ثالثاً، تُراجع بصفة دورية الأذونات الممنوحة لوكلاء الذكاء الاصطناعي بالصرامة ذاتها التي تُراجع بها صلاحيات البشر.
لا يستلزم أي من هذه الأشياء الثلاثة تكنولوجيا غير موجودة. ما يستلزمه هو إرادة تنظيمية للاعتراف بأن المشكلة ليست مشكلة تقنية المعلومات وحدها، وأن الحل لا يمكن تفويضه حصراً إلى الفرق التقنية. النقطة العمياء التي لا يتحدث عنها أحد في عروض مجالس الإدارة هي بالضبط هذه: المسافة بين ما يعتقد القادة أنهم يعرفونه حول استخدامهم للذكاء الاصطناعي وما يجري فعلاً على مستوى كل تفاعل هي هوة معلوماتية تتراكم تداعياتها التشغيلية والمالية والتنظيمية في صمت تام.
الهشاشة في هذه الدورة لا تكمن في النماذج. بل تكمن في بنية المراقبة لدى من ينشرونها. المؤسسات التي تستوعب هذا قبل أن يكشفه المنظم أو الحادثة ستمتلك ميزةً هيكليةً على تلك التي تتعلمه بصورة ردّ فعل متأخر.
