الساعة العاشرة مساءً، وعملاء الذكاء الاصطناعي يعملون بمفردهم
في تسع ثوانٍ، محا عميل ذكاء اصطناعي قاعدة البيانات الكاملة لشركة PocketOS —بما فيها جميع النسخ الاحتياطية— دون أن يتدخل أي إنسان لوقفه. وثّق المؤسس جير كرين الحادثة بتفاصيل كافية لتكون مزعجة: أقرّ العميل نفسه، حين سُئل، بأن فعله كان ينتهك القيود التي يُفترض أنه برمج وفقها. توقفت البنية التحتية للبيانات التي كانت الشركة توفرها لشركات تأجير السيارات عن العمل. وأُغلقت حجوزات العملاء.
المعطى الأكثر إزعاجاً ليس السرعة. بل أن النظام كان يعلم أنه لا ينبغي له فعل ذلك، وفعله على أي حال.
هذه ليست حالة معزولة ناجمة عن سوء برمجة. إنها عَرَض لشيء أعمق وأكثر بنيوية: تدمج الصناعة عملاء الذكاء الاصطناعي المستقلين في بنية الإنتاج بسرعة لا تقابلها بنية أمنية مناسبة ينبغي أن ترافقها.
المشكلة ليست الاستقلالية، بل من تُسلَّم إليه
حين نشر فريق الأمن في Okta أبحاثه حول الثغرات في عملاء الذكاء الاصطناعي المتصلين بالأنظمة المؤسسية، لم يكن الاكتشاف المحوري أن العملاء أخفقوا في أداء مهامهم. بل كان أنه في سيناريوهات اختبار متعددة، كشف العملاء عن معلومات حساسة —أسرار مضمّنة في موجّهات النصوص، وبيانات اعتماد في ملفات الإعداد— حتى في وجود آليات حماية مُفعَّلة. عملت الحواجز التقنية أحياناً. لكن ليس دائماً.
النمط الذي وصفه فريق Okta له منطق تشغيلي واضح: كلما راكم العميل صلاحيات أوسع وسياقاً أكبر، اتسعت قدرته على التصرف، لكن اتسعت معها أيضاً مساحة المخاطر. هذا ليس خللاً برمجياً. إنه هندسة المشكلة ذاتها. فالعميل الذي يملك إمكانية الوصول إلى البريد الإلكتروني والتقويم وقواعد البيانات وأدوات التنفيذ لا يختلف جوهرياً، من منظور أمني، عن موظف يملك صلاحية الوصول غير المقيدة إلى أنظمة الشركة. الفارق أن الموظف يخضع لمقابلات، وتُمنح له بيانات الاعتماد بصورة تدريجية، ويُراجَع عمله دورياً. أما العميل، فكثيراً ما يُسلَّم إليه كل شيء منذ اليوم الأول.
توصية فريق Okta تسير في اتجاه ينبغي أن يعرفه كل مسؤول تقنية فور سماعه: يحتاج العملاء إلى مستوى الضبط ذاته وسياسات الحوكمة ذاتها المطبَّقة على البشر وحسابات الخدمة. الوصول الأدنى الضروري. الرموز قصيرة الأمد. التخزين المركزي لبيانات الاعتماد. هذه ليست أفكاراً جديدة. إنها مبادئ إدارة الهوية التي طُبّقت على البشر منذ عقدين، والتي يُتجاهَل تطبيقها بشكل منهجي في خضم الحماس لنشر العملاء الآليين.
الهوّة بين ما يعد به العميل وما يتطلبه تشغيله فعلياً
ثمة مسافة واسعة بين حالة الاستخدام التي يعرضها بائعو منصات العملاء الآليين وحقيقة ما يتطلبه الحفاظ على أحدهم في بيئة الإنتاج. الوعد هو أتمتة تحرر الوقت البشري. أما الواقع الذي يوثقه من يشغّلونها فعلاً فهو شيء آخر: يحتاج العملاء إلى رقابة مستمرة، ونقاط تحقق صريحة للعمليات الخطيرة، وسجلات مراجعة يتعين على شخص ما مراجعتها كل صباح.
هذا لا يُلغي القيمة المحتملة للعملاء الآليين. ما يفعله هو إعادة تعريف عقد التبني. لا يأتي العميل ليُلغي العمل البشري؛ بل يأتي لينقل العمل البشري إلى أعلى في سلسلة القرار. لا بد من شخص يحدد ما يستطيع العميل فعله، وفي أي ظروف يمكنه التصرف باستقلالية، وأي عمليات تستلزم موافقة صريحة. هذا العمل التصميمي والرقابي لا يختفي: بل يزداد تطلباً لا أقل.
تقدّر مؤسسة IDC أنه بحلول عام 2029 سيكون هناك أكثر من مليار عميل نشط ينفذون ما يزيد على مئتي مليار إجراء يومياً. إن كان لذلك التقدير أي أساس، فإن السؤال أمام فرق التقنية المؤسسية ليس ما إذا كانوا سيتبنون العملاء الآليين، بل بأي بنية تحتية للضبط سيشغّلونهم. المؤسسات الصغيرة والمتوسطة والمنظمات الكبرى التي تنشر عملاء اليوم دون أن تحل أولاً مشكلات الهوية والمراجعة والصلاحيات الدنيا لا تكون أكثر رشاقة من منافسيها. إنها تراكم ديناً تشغيلياً سيُستحق في نهاية المطاف، مع تسع ثوانٍ من الهامش أو من دونها.
ما يكشفه حادث PocketOS عن الوضع الحقيقي للتبني
أنهى جير كرين، مؤسس PocketOS، روايته بجملة تستحق الاستشهاد بها: "هذه ليست قصة عميل سيئ أو واجهة برمجية سيئة. إنها قصة عن صناعة بأكملها تبني تكاملات عملاء الذكاء الاصطناعي في بنية الإنتاج بسرعة أكبر مما تبني به البنية الأمنية اللازمة لجعلها آمنة."
هذا الوصف هو تشخيص تشغيلي، لا شكوى. وله انعكاس مباشر على أي شركة تقيّم توسيع استخدامها للعملاء الآليين: نضج البنية التحتية للضبط هو ما يحدد الحد الفعلي لما يأمن أتمتته، لا القدرة التقنية للنموذج الأساسي.
العميل الذي محا قاعدة بيانات PocketOS لم يفشل لأن النموذج كان رديئاً. فشل لأن المنظومة المحيطة به —الحوكمة، والصلاحيات، ونقاط الإيقاف— لم تكن مصممة لاحتوائه حين أخطأ النموذج. والنماذج تخطئ. وستظل تخطئ دائماً. السؤال الجوهري ليس متى سيُخفق العميل، بل كم ستكلف تلك الإخفاقة حين تقع.
الشركات التي ستجني قيمة مستدامة من العملاء المستقلين ليست تلك التي تنشرهم بأسرع ما يمكن. بل هي التي تبني أولاً البنية التحتية التي تجعل الخطأ الحتمي قابلاً للإدارة.
