مكتبة كارباتي والتحيز الذي لا يُراجع
أندريه كارباتي، أحد أكثر المعماريين الفكرين تأثيرًا في حركة الذكاء الاصطناعي الحديثة، نشر مؤخرًا اقتراحًا يتداول بشكل كبير بين فرق الهندسة والقادة في المنتجات: هيكلية بديلة للأنظمة المُعززة بالاسترجاع (RAG) يُطلق عليها "قاعدة المعرفة لنموذج اللغة". الفكرة الرئيسية هي استبدال قواعد البيانات التمثيلية والعمليات الديناميكية للاسترجاع بمكتبة من ملفات markdown يتم الحفاظ عليها وتحديثها وتنظيمها بشكل مستقل بواسطة نموذج اللغة على مر الزمن.
إنه اقتراح تقني نظيف. يقلل من زمن الاستجابة، يلغي تعقيد المؤشرات التمثيلية، وينشئ مستودعًا للمعرفة يصبح أكثر اتساقًا مع الاستخدام. لأي فريق واجه صعوبات مع خطوط أنابيب RAG غير المستقرة، يبدو هذا بمثابة راحة فورية.
لكن هناك سؤال نادرًا ما تطرحه فرق الهندسة قبل تنفيذ هيكلية جديدة، ونادرًا ما تطرحه الإدارات بعد ذلك: من عرّف المجموعة الأولية وبأي معايير من الأهمية؟
الهيكلية الأنيقة التي تخفي قرارًا سياسيًا
إن مكتبة Markdown التي تحافظ عليها الذكاء الاصطناعي ليست محايدة بالضرورة. يبدأ أي نظام معرفي بفعل تحريري: يقرر شخص ما أي وثائق تدخل أولاً، أي المصادر مُعتمدة، أي المواضيع تستحق أرشيفًا خاصًا وأيها يُعاق. هذا القرار الأولي ليس تقنيًا. إنه سياسي عميق بالمعنى التنظيمي للكلمة: يُعبر عن هرم القيم والنقاط العمياء والأولويات لمن اتخذ القرار.
ما تفعله اقتراح كارباتي هو ترقيه وأتمتة عملية التحديث، لكنها لا تحلّ المشكلة الأساسية. سيتعلم النموذج الحفاظ على اتساق ما كان مُنحازًا منذ البداية. ملف Markdown الذي يصف "كيفية عمل العميل النموذجي" كتبته مجموعة متجانسة من المهندسين في سان فرانسيسكو يصيغ رؤية معينة لمن هو ذلك العميل، ما اللغة التي يتحدثها، ما الجهاز الذي يستخدمه، ما مستوى الثقافة الرقمية لديه وفي أي نطاق زمني يعمل. سيقوم النموذج بتحديثه بجدية. لكن ما لن يفعله هو التساؤل عنه.
هذه ليست نقدًا لكارباتي أو للهندسة نفسها. إنها تشخيص للفراغ الذي يوجد بين التفوق التقني والمتانة التنظيمية. الفرق التي تنفذ هذه الحلول دون مراجعة المجموعة التأسيسية تبني ذاكرة مؤسسية ستضخم من قيودها الإدراكية على النطاق، وبالسرعة التي تسمح بها الأتمتة فقط.
العبث التشغيلي هو أنه كلما زادت كفاءة النظام في الحفاظ على المكتبة، زادت سرعة ترسيخ تلك التحيزات كحقائق مرجعية.
التكلفة الحقيقية لذاكرة مؤسسية متجانسة
هناك أدلة كافية لتأكيد أن الفرق القيادية ذات تنوع منخفض من أصول ونظرة تأخذ قرارات مع نقاط عمياء نظامية، لا عارضة. وقد وثقت شركة ماكينزي في قياساتها حول التنوع في الفرق القيادية ارتباطات بين التجانس وانخفاض القدرة على التوقع في الأسواق الناشئة. لكن الأهم لهذا التحليل هو الآلية، وليس الإحصائية.
عندما تبني فرقة متجانسة قاعدة معرفية مؤسسية — سواءً في Markdown أو في ويكي مؤسسي أو في تعليم الموظفين الجدد — ما تنتجه هو ترميز لنموذجها العقلي المشترك. وهذا هو بالضبط عكس ما تحتاجه المنظمة لاكتشاف الاضطرابات. تأتي الاضطرابات من الهوامش: من مستخدمين لم يعتبرهم المنتج، من أسواق بدت ثانوية، من احتياجات لم يعرفها الفريق لأنه لم يعيشها من قبل.
إن مكتبة المعرفة التي تحافظ عليها الذكاء الاصطناعي والتي تستند إلى تلك المجموعة المتجانسة لا تحل المشكلة فحسب، بل تُ institucionaliza مع طبقة من الأتمتة التي تعطيها مظهر الموضوعية. الوثائق مكتوبة بشكل جيد، الهيكل مُتسق، النموذج يقوم بتحديثها باستمرار. كل شيء يبدو صارمًا. لكن السؤال حول أي أسواق، أي مستخدمين، وأي حالات استخدام تُركت خارج الفهرس منذ اليوم الأول لا يزال بلا إجابة.
الخطر المالي الملموس هو أن المنظمة تبني قرارات للمنتج، التوسع، ورعاية العملاء على قاعدة معرفية تستبعد بانتظام القطاعات ذات أكبر قدر من النمو: بالضبط تلك التي لا تفهمها الشركة جيدًا بعد.
ما تفتحه الاقتراحات لمن يعرف كيف يقرأها
سيكون خطأ تقليل هذا التحليل إلى تحذير. الهيكلية التي يصفها كارباتي لها إمكانات تنظيمية تتجاوز التحسين التقني، طالما يتدخل القادة في الطبقة التي يميل المهندسون إلى اعتبارها محصورة.
مكتبة Markdown التي تحافظ عليها الذكاء الاصطناعي هي، في جوهرها، ذاكرة مؤسسية حية. إذا تم بناء المجموعة التأسيسية بتنوع مدروس من المنظورات — فرق تعمل في أسواق ناشئة، مستخدمين في سياقات ذات عرض نطاق ترددي منخفض، مشغلين يتحدثون لغات غير الإنجليزية، أصوات من الهامش التنظيمي وليس من المركز فقط — سيكون لدى النظام القدرة على الحفاظ على تلك الثروة محدثة ومتسقة على مر الزمن. وهذا شيء لا تستطيع أي ويكي مؤسسية تقليدية تحقيقه لأنه يعتمد على الجهد التطوعي لأولئك الذين لديهم حافز أقل لتوثيق.
الحجة التجارية مباشرة: قاعدة معرفة تمثل التعقيد الحقيقي للأسواق التي تعمل فيها الشركة تتخذ قرارات أفضل بتكلفة تشغيلية أقل من تلك التي تمثل فقط وجهة نظر الفريق المؤسس. ليس لأنها أكثر عدلاً، ولكن لأن لديها مزيد من المعلومات ذات الصلة مدمجة في هيكلها.
التدخل الذي يجب أن يطلبه مستوى الإدارة العليا قبل الموافقة على تنفيذ أي من هذه الهياكل بسيط ولا يتطلب خبرة تقنية: فهرس عن من ساهموا في الوثائق التأسيسية، أي جغرافي ●ات تمثلها، أي لغات موجودة في المجموعة المرجعية، وأي أنواع من المستخدمين تم اعتبارها في حالات الاستخدام الموثقة. إذا كانت تلك القائمة قصيرة ومتجانسة، يجب أن يشترط قرار الاستثمار على توسيعها قبل البدء في الأتمتة.
طاولة التصميم كمتغير خطر
تميل الصناعة إلى تقييم هياكل الذكاء الاصطناعي بناءً على مقاييس تقنية: زمن الاستجابة، دقة الاسترجاع، اتساق المعنى، التكلفة لكل مكالمة. هذه مقاييس مشروعة وضرورية. لكن يوجد متغير واحد لا يظهر في أي مقياس والذي يحدد الفائدة الفعلية للنظام على المدى الطويل: تركيب الفريق الذي اتخذ قرارات التصميم.
نظام RAG بدقة استرجاع عالية مُنشأ على مجموعة متحيزة يسترجع معلومات متحيزة بكفاءة عالية. مكتبة Markdown مُنظمة بشكل مثالي توثق فقط تجربة مجموعة فرعية من المستخدمين تقدم إجابات متسقة لتلك المجموعة الفرعية وتفشل بصورة صامتة بالنسبة للآخرين. الفشل الصامت هو الأكثر خطورة لأنه لا يسبب أي تنبيه: يستجيب النظام، يفترض الفريق أنه يعمل، وتواصل المنظمة اتخاذ قرارات بناءً على معلومات غير مكتملة دون علمها.
إن اقتراح كارباتي يستحق الانتباه الفني ويستحق التنفيذ. لكنه يستحق أيضًا أن يدرك القادة الذين يوافقون عليه أنهم يتخذون قرارًا حول هيكلية المعرفة المؤسسية، وليس حول بنية البرمجيات فقط. إن هذا التمييز يغير من يجب أن يكون في الغرفة عند تحديد المجموعة الأولية، ويغير المعايير التي يتم من خلالها تقييم نجاح النظام بعد ستة أشهر من إطلاقه.
تقوم الإدارات التي توافق على هذا الاستثمار دون مراجعة تنوع وجهات النظر على طاولة التصميم بدفع ثمن لذاكرة مؤسسية ستتذكر، بكفاءة كبيرة، بالضبط ما كان يعرفه فريقها الأكثر تجانسًا.
