الاستقلالية المستعارة: لماذا لا يمكن لوكلاء الذكاء الاصطناعي في بيئات الأعمال أن يُشغَّلوا ببساطة دفعةً واحدة
ثمة فارق جوهري بين نظام يعمل بسلاسة في عرض تجريبي وآخر لا يُفضي إلى تدمير القيمة حين لا تراقبه أعين. مع وكلاء الذكاء الاصطناعي، يُقاس هذا الفارق بالسجلات التي تُعدَّل، والمدفوعات التي تُعالَج، والقرارات التي تُتَّخذ دون تدخل بشري. والمشكلة ليست تقنية؛ إنها مشكلة حوكمة.
يضع تحليل نشره مجلس فوربس التقني بقلم مدير أول لقسم الذكاء الاصطناعي التوليدي في أمازون ويب سيرفيسز النقاش في موضعه الصحيح تماماً: ليس في قدرات النموذج، بل في بنية الإشراف المحيطة بالوكيل. والسؤال التشغيلي الذي يطرحه التحليل بالغ البساطة في جوهره: قبل نشر نظام وكيل، ينبغي معرفة ما إذا كانت مؤسستك قادرة على اكتشاف أخطائه بعد وقوعها، وما إذا كان هذا الاكتشاف قادراً على تغيير ما يفعله النظام. فإن كانت الإجابة عن أي من السؤالين بالنفي، فإن قرار منح الاستقلالية سابق لأوانه، بصرف النظر عن المعايير التي اجتازها النموذج.
قد يبدو هذا تحفظاً مبالغاً فيه في سوق تُقدِّر فيه شركة Grand View Research أن قطاع الذكاء الاصطناعي الوكيلي العالمي سيبلغ 22.9 مليار دولار في عام 2026، مع توقعات بارتفاعه إلى 224.5 مليار دولار بحلول عام 2033. غير أن حجم السوق ليس حجةً للسلامة، بل هو حجة للإلحاح في البناء الجيد.
نموذج استرداد المبالغ الذي يكشف المشكلة الجذرية
يستخدم التحليل مثالاً يبدو للوهلة الأولى مألوفاً، لكنه يتسم بالدقة الكافية: وكيل يدير استردادات المبالغ للعملاء. أول تمييز يُرسيه التحليل هو التمييز بين صياغة رد وإصدار استرداد فعلي؛ فالأول ينتج نصاً يمكن لإنسان مراجعته، أما الثاني فيُعدِّل حالة حساب مصرفي.
هذا التمييز ليس لعباً بالمصطلحات؛ إذ يُحدِّد نوع الخطأ المحتمل، ومدى قابليته للعكس، وتكلفة اكتشافه. النص المصاغ بصورة خاطئة يُولِّد احتكاكاً، أما الدفعة الخاطئة فتُولِّد خسارة مالية وتعرضاً تنظيمياً، وبحسب القطاع، تبعات قانونية. وسرعة توليد الوكيل للأخطاء تتناسب تناسباً طردياً مع سرعة عمله.
النهج المقترح هو هيكلة الموافقة البشرية حول تعريفات سابقة: ما الحالات التي يمكن للوكيل التعامل معها، وما الأدلة الواجب توافرها قبل اتخاذ الإجراء. وينبغي أن تُطلق سجلات الطلبات غير المكتملة أو السياسات الملتبسة أو الشروط غير المحددة تصعيداً تلقائياً، لا استجابةً مرتجلة من النموذج. هكذا تتحول الرقابة البشرية من مفهوم ضبابي إلى ضابط تشغيلي بمعايير صريحة.
ما يجعل هذه البنية مثيرة للاهتمام هو ما تكشفه من الخطأ الأكثر شيوعاً في تطبيقات الوكلاء: افتراض أن معدل إتمام الحالات المرتفع يعادل نتائج صحيحة. يمكن لنظام ما أن يُتمّ 95% من الحالات ومع ذلك يُنتج أخطاء منهجية في الـ5% المتبقية دون أن يعلم أحد، لأن لا أحد يراقب الحالات التي تبدو ناجحة. والتوصية هي أخذ عيّنات من الحلول التي لا تتضمن حوادث أيضاً، لا من التصعيدات فحسب. وإلا فإن الوكيل يقرر أي أجزاء من عمله تخضع للتدقيق، وهذا نقيض الرقابة تماماً.
وجدت دراسة من عام 2026 قيّمت 15 نموذجاً على معيارَي قياس مختلفَين أن التحسينات في القدرة جاءت مصحوبةً بمكاسب متواضعة في الموثوقية. الرقم مهم لأنه يكسر الحدس الأكثر شيوعاً: أن نموذجاً أكثر قوةً يكون بالتناسب أأمن في النشر. فالقوة والاتساق لا يتوسعان بالسرعة ذاتها.
الاقتصاد الذي تُخفيه التقارير عادةً
يقترح التحليل حساباً افتراضياً بـ1000 حالة استرداد: 850 يحلّها الوكيل دون تصحيح بشري، و100 يحلّها أفراد، و50 دون حل. تبلغ تكاليف البرمجيات والبنية التحتية 400 دولار، في حين تبلغ تكاليف التحقق والمراجعة والاسترداد 1600 دولار. والنتيجة: 950 حالة تم التحقق منها بـ2000 دولار، أي ما يعادل نحو 2.11 دولار للحالة. ويستثني الحساب تكاليف التطبيق الأولي وتبعات الأخطاء غير المكتشفة.
الحساب يبدو مُجدياً. لكن الطريقة المعتادة لتقديم هذه الحالة بعينها ستكون الإبلاغ عن نسبة إتمام 95% وإسناد التوفير إلى الوكيل. ما يُغفله هذا التقرير هو مساهمة العمل البشري، التي تمثل في المثال 80% من إجمالي تكلفة العملية. وإذا كانت هذه التكلفة مُستوعَبة من قِبَل فريق آخر أو خط ميزانية مختلف، فقد يُتَّخذ قرار التوسيع على أساس تكاليف مُخفَّضة اصطناعياً.
ثمة بحث من عام 2024 بعنوان "AI Agents That Matter" يُجادل بهذا المعنى تحديداً: معظم ممارسات تقييم الوكلاء تُركِّز كثيراً على الدقة الخام وتُهمل التكلفة. فمن أجل قرار نشر سليم، يجب أن يشمل الحساب الوقت الذي يُكرِّسه الأفراد لمراجعة عمل الوكيل وتصحيحه وإتمامه. وقد يكون هذا الوقت غير مرئي في ميزانية الهندسة إذا كان فريق العمليات يستوعب الاستثناءات دون الإبلاغ عنها بوصفها تكلفةً مرتبطة بالنظام.
تتضاعف المشكلة مع التوسع. الحالات السهلة، وهي أول ما يُؤتمَت، تُولِّد الاقتصاد الأكثر ملاءمةً. وتوسيع الاستقلالية لتشمل المعاملات المتنازع عليها أو الحالات المعقدة يستلزم تقييماً منفصلاً، لأن اقتصاد الحالات البسيطة لا يتنبأ بالوقت الذي ستستهلكه الحالات الصعبة. وكيل يعالج 850 استرداداً قياسياً بـ0.47 دولار لكل منها قد يُولِّد استثناءات تكلّف 60 دولاراً من المراجعة البشرية للحالة الواحدة. معدل الإتمام الكلي يظل يبدو جيداً. أما الهامش التشغيلي الفعلي فلا.
ثمة تكلفة إضافية يذكرها التحليل وتنزع إلى الاختفاء من نماذج الأعمال: طابور المراجعة يحتاج إلى مالك. يحتاج المراجعون إلى أدلة كافية لفهم ما جرى وإلى طريقة لإتمام الحالة دون تكرار كل العمل السابق. وإن لم تكن هذه القدرة ضمن خطة النشر، فإن الحالات تنتظر الموافقة بينما يواصل الوكيل العمل، وينتظر العميل بدوره، بصرف النظر عن سرعة استجابة النظام الأولية.
السلسلة التي تحوّل الأخطاء إلى قيود
أعلنت IBM في 27 أكتوبر 2026 تحديثات لمنصة watsonx Orchestrate تشمل محاكاة المستخدم، والتقييم الحتمي، والتحقيق في حالات الفشل في الإنتاج، وتوليد حالات الاختبار، و"وكيل AgentOps" مصمَّم لتحسين جودة الوكيل قبل ترقيته إلى بيئة الإنتاج. واتجاه المنتج هو بالضبط ما يصفه تحليل فوربس من الجانب الحوكمي: ربط ما يجري في الإنتاج بسلوك النظام قبل أن يُأذَن بتوسيع صلاحياته.
هذه البنية المعمارية، وهي الاختبار قبل النشر زائد المراقبة في الإنتاج زائد تحديث القيود، هي الدورة التي تحوّل الوكيل إلى شيء يمكن لمؤسسة ما إدارته بدلاً من مجرد رصده. والفارق أن المراقبة تكتشف الإخفاقات، أما الإدارة فتحوّلها إلى تعديلات في السياسة، أو حدود للتفويض، أو حالات اختبار جديدة تحول دون تكرارها.
النهج الذي يقترحه التحليل يسير وفق تسلسل محدد: البدء بالإجراءات المقترحة، ثم الانتقال إلى الموافقة البشرية، ثم السماح بالتنفيذ ضمن حدود معرَّفة متى أضحت النتائج مسوِّغاً لذلك. قد تستدعي بعض الحالات الموافقة بصفة دائمة. وينبغي أن يُطلق تغيير في السياسة أو تراكم في الأعمال المتأخرة أو أخطاء تُكتشف لاحقاً مراجعةً للأذونات الممنوحة بالفعل، لا لأذونات المستقبل فحسب.
الخطوة الأخيرة في هذه السلسلة هي الأكثر عرضةً للإغفال في التطبيقات الفعلية: أن يستعرض المسؤول التجاري للعملية الحالاتِ غير المحلولة والأخطاءَ المكتشفة خلال المراجعة، ثم السؤال عما تغير نتيجة هذا التحليل. ينبغي أن يعتمد القرار التالي بشأن الاستقلالية على ما إذا كانت تلك المشكلات قد حُلَّت، وعلى ما إذا كان الفريق المسؤول عن الاستثناءات لديه القدرة على استيعاب عمل إضافي. وإن لم يكن ثمة إجابة عن أيٍّ من السؤالين، فإن توسيع صلاحيات الوكيل رهان لا قرار.
قبل منح الأذونات، حدِّد من يتحمّل تكلفة الخطأ
النمط الذي يستخلصه هذا التحليل ليس جديداً في تاريخ الأتمتة في بيئات الأعمال. كل موجة تقنية، من تخطيط موارد المؤسسات إلى أتمتة العمليات الروبوتية، مرّت بمرحلة قُيِّم فيها وعد الكفاءة بناءً على الحالات التي تعامل معها النظام بنجاح، وظهرت التكلفة الحقيقية في الحالات التي أخفق فيها. والفارق مع وكلاء اللغة هو أن مرونتهم، التي هي بالذات ما يجعلهم جذابين، تجعل إخفاقاتهم أقل قدرةً على التنبؤ مقارنةً بقاعدة حتمية.
وكيل يعمل بتعليمات بلغة طبيعية قد يُغيِّر سلوكه بتغير السياق أو البيانات الغامضة أو تحديثات النموذج أو الأدوات التي تستجيب بصورة مختلفة وفق حالة النظام. وهذا يعني أن التحقق من صحته مقابل معيار قياسي محدود في مرحلة ما قبل الإنتاج لا يضمن الاتساق في الإنتاج؛ إنه يضمن فحسب أنه اجتاز ذلك المعيار.
السؤال الذي ينبغي لأي مسؤول تشغيل طرحه قبل الموافقة على توسيع صلاحيات وكيل ما ليس كم حالةً أتمّها، بل كم من الحالات التي أتمّها راجعها شخص قادر على اكتشاف الخطأ، وماذا فعلت المؤسسة بالأخطاء التي وجدتها. فإن لم يراجع أحد الحالات الناجحة، وإن لم تُعدِّل الأخطاء المكتشفة قواعد النظام، أو إن كان فريق المراجعة لا يمتلك رؤيةً على منطق الوكيل، فإن معدل الإتمام لا يقيس ما يوحي بقياسه.
ستنمو أسواق الذكاء الاصطناعي الوكيلي مع الحوكمة أو بدونها. وما سيُحدِّد أي المؤسسات تتوسع بتحكم وأيها تتراكم لديها خصوم صامتة هو بالضبط: ما إذا كانت تكلفة الخطأ ظاهرةً في الميزانية الصحيحة، وما إذا كان المراجعون يمتلكون الأدوات لإتمام العمل الذي لم يُنهِه الوكيل، وما إذا كان ثمة من هو مسؤول عن تحويل كل إخفاق إلى قيد يحول دون الإخفاق التالي. الاستقلالية لا تُمنح؛ إنها تُبنى بأدلة تشغيلية، وهذه العملية تستغرق وقتاً أطول مما يُقرّ به جدول النشر عادةً.
