لماذا تهمّ الحوكمة الآن؟
كل مؤسسة في الخليج تستخدم الذكاء الاصطناعي، سواء كانت مصرفًا يقيّم طلبات التمويل، أو مستشفى يرتّب أولويات المرضى، أو متجرًا يقترح المنتجات، إنما تتخذ قرارات بشأن الناس عبر آلة. ومعظم هذه القرارات نافع، وبعضها سيكون خاطئًا، وقليل منها سيكون خاطئًا على نحو غير عادل أو غامض أو ضار. والحوكمة ببساطة هي الانضباط الذي يضمن أن المؤسسة تعرف ما تفعله أنظمتها، وتستطيع تفسيره، وتقدر على تصحيحه.
وهذا الأمر أهم اليوم مما كان قبل سنوات لثلاثة أسباب: فأنظمة الذكاء الاصطناعي باتت تُستخدم في قرارات ذات أثر لا في توصيات فحسب، والجهات التنظيمية في المنطقة انتقلت من الإرشاد إلى التشريع ولا سيما في البيانات الشخصية، وثقة الجمهور إذا فُقدت كان استردادها باهظًا. والحوكمة حين تُحسَن ليست كابحًا للابتكار، بل هي ما يتيح للمؤسسة أن تتحرك بسرعة دون أن تكسر ما يستحق الحفظ.
خمسة مبادئ بلغة واضحة
تلتقي أطر الذكاء الاصطناعي المسؤول في العالم عند مجموعة صغيرة من الأفكار، والنسخ الخليجية ليست استثناءً.
فالعدالة تعني ألا يعامل النظام الناس معاملة مختلفة بناءً على خصائص لا صلة لها بالقرار، كالجنسية أو الجنس، ما لم يكن ثمة مسوّغ مشروع. والشفافية تعني أن يتمكن المتأثرون بالقرار من معرفة أن الذكاء الاصطناعي شارك فيه، وأن يفهموا بعبارات ذات معنى لماذا جاءت النتيجة كما جاءت. والخصوصية تعني أن بيانات الأفراد تُجمع لغرض معلن، وتُحفظ بأمان، ولا تُستخدم لغرض آخر دون موافقة أو أساس نظامي. والمساءلة تعني أن شخصًا أو جهة محددة بالاسم مسؤولة عن كل نظام، وأن عبارة "الخوارزمية هي التي قررت" ليست جوابًا أبدًا. والإشراف البشري يعني أن القرارات ذات العواقب الحقيقية يستطيع إنسان مراجعتها والاعتراض عليها ونقضها، وأن لديه الوقت والمعلومات اللازمين لذلك.
وليس في هذه المبادئ ما هو غريب عن قيم المنطقة؛ فالعدل والصدق في المعاملات وحفظ الأمانة وتحمّل المسؤولية الشخصية راسخة في الأخلاق الإسلامية وفي الأعراف الاجتماعية الخليجية. والذكاء الاصطناعي المسؤول يمنحها صورة تقنية.
التوجه الإقليمي
كانت الإمارات من أوائل الحكومات في العالم التي عاملت الذكاء الاصطناعي بوصفه أولوية وطنية، فعيّنت وزيرًا مختصًا بالذكاء الاصطناعي، وأصدرت استراتيجية وطنية للذكاء الاصطناعي ذات أفق بعيد المدى. وأصدرت دبي والحكومة الاتحادية مبادئ وإرشادات لأخلاقيات الذكاء الاصطناعي يمكن للمؤسسات الرجوع إليها، كما بات للدولة قانون اتحادي لحماية البيانات الشخصية.
وأنشأت المملكة العربية السعودية هيئة وطنية للبيانات والذكاء الاصطناعي، أصدرت مبادئ لأخلاقيات الذكاء الاصطناعي وتقود استراتيجية وطنية للبيانات والذكاء الاصطناعي متسقة مع رؤية 2030. ويحدد نظام حماية البيانات الشخصية في المملكة قواعد جمع البيانات الشخصية ومعالجتها، وهي قواعد يجب أن تلتزم بها أي مؤسسة تنشر الذكاء الاصطناعي.
وتفاصيل هذه الأدوات تتطور، وعلى المؤسسات الرجوع إلى النصوص الرسمية الحالية وإلى مستشاريها القانونيين. غير أن الاتجاه واضح ومتسق: كلا البلدين يريد تبنّي الذكاء الاصطناعي على نطاق واسع، وكلاهما يتوقع أن يكون التبني مسؤولًا.
أين تتعثر الأمور عمليًا؟
نادرًا ما يأتي التحيز اختيارًا متعمدًا، بل يتسلل عبر بيانات تدريب تعكس قرارات سابقة أو عملاء سابقين أو أنماط توظيف سابقة. فالنموذج المدرّب على من قُبل من قبل يتعلم أن يقبل من يشبههم. والعلاج هو فحص البيانات قبل أن يوجد النموذج، واختبار النتائج عبر الفئات المختلفة بعد وجوده، ومواصلة الاختبار بعد النشر لأن سلوك النظام ينحرف مع تغير البيانات.
والإشراف كثيرًا ما يفشل بصمت. فالمراجع البشري الذي يرى ثلاثمئة توصية في اليوم ولديه ثلاثون ثانية لكل منها لا يقدّم إشرافًا، بل يقدّم توقيعًا. والإشراف الحقيقي يتطلب عبء عمل معقولًا وصلاحية وقدرة على رؤية منطق النظام.
والمورّدون نقطة ضعف ثالثة. فشراء منتج ذكاء اصطناعي لا ينقل المسؤولية عن نتائجه. وعلى المؤسسات أن تسأل الموردين كيف دُرّبت النماذج، وما الاختبارات التي أُجريت، وما البيانات التي تغادر البلد.
قائمة حوكمة عملية
- احتفظ بجرد لكل نظام ذكاء اصطناعي مستخدم، ومن يملكه، وما القرارات التي يؤثر فيها.
- صنّف الأنظمة بحسب المخاطر: روبوت محادثة يجيب عن ساعات العمل ليس كنظام يفرز المتقدمين للوظائف.
- للأنظمة الأعلى مخاطر، وثّق مصادر البيانات، واختبر التفاوت بين الفئات، وسجّل النتائج.
- حدد من يملك نقض قرار النظام، وتأكد أن لديه الوقت والمعلومات لذلك.
- أخبر الناس حين يُستخدم الذكاء الاصطناعي في قرارات تخصهم، وامنحهم طريقًا للتظلم.
- راجع كل نظام سنويًا على الأقل، وكلما تغيرت البيانات أو الاستخدام.
كيف تبدأ؟
ابدأ بالجرد؛ فمعظم المؤسسات تُفاجأ بما تجده. ثم شكّل فريقًا صغيرًا متعدد التخصصات يضم التقنية والشؤون القانونية والعمليات وشخصًا يمثل المتأثرين بالقرارات، وامنحه تفويضًا لتصنيف الأنظمة ووضع قواعد الفئة الأعلى مخاطر. اكتب القواعد في صفحات قليلة لا في مئة صفحة. ثم طبّقها على نظام واحد عالي المخاطر من بدايته إلى نهايته، وتعلّم منه، ثم وسّع. فالحوكمة الجيدة شأنها شأن العادات أكثر منها شأن الوثائق، والعادات تُبنى نظامًا بعد نظام.
