بقلم Antonio Tejeda Encinas ، رئيس Comite Euro Americano Digital Law ، و Meta Channel Corp
ليس من الغريب أن يظهر اليوم، في أي لجنة إدارية أو وثيقة استراتيجية لعام 2025، مصطلح «حوكمة الذكاء الاصطناعي». أما ما يثير القلق حقًا فهو أنه، رغم حضوره في كل مكان، يُخلط في كثير من الأحيان بشيء ليس هو: امتداد مستقبلي لحوكمة البيانات. وهذا الخطأ المفاهيمي —الذي يبدو ثانويًا— يحول دون أن تتعامل مؤسسات كثيرة على النحو المناسب مع المخاطر الحقيقية للذكاء الاصطناعي.
فإدارة البيانات شيء، وحوكمة أنظمة مستقلة قادرة على اتخاذ قرارات ذات أثر هيكلي شيء آخر مختلف تمامًا. وهذا يقتضي التسليم بأن الذكاء الاصطناعي قد جلب معه طبقة إضافية من التعقيد، لا يمكن معالجتها بتطبيق الأطر التقليدية لحوكمة البيانات (data governance).
الخلط الأول: «لدينا بالفعل سياسات للبيانات، وهي تغطي الذكاء الاصطناعي»
في مؤسسات كثيرة جدًا، ولا سيما في القطاعين المالي والصحي، يُنطلق من فكرة مفادها أنه إذا كانت البيانات محكومة جيدًا، فإن كل ما يفعله الذكاء الاصطناعي سيكون كذلك أيضًا. لكن المشكلة لا تقتصر على البيانات التي يستخدمها الذكاء الاصطناعي، بل تشمل ما يفعله بها.
فعلى سبيل المثال، قد يملك مصرف رقابة ممتازة على بيانات عملائه، من ملفات الجدارة الائتمانية إلى سجل المدفوعات. ولكن إذا تولى نظام ذكاء اصطناعي أتمتة منح القروض العقارية وانتهى إلى رفض فئات اجتماعية واقتصادية معينة بصورة منهجية —من دون أن يعرف أحد السبب—، فلسنا أمام مشكلة بيانات، بل أمام مشكلة حوكمة خوارزمية. وهنا لم تعد الإجابة تكنولوجية: بل هي قانونية وأخلاقية وتنظيمية.
الخلط الثاني: «الاعتقاد بأنه لا يمس سوى تكنولوجيا المعلومات»
ليست حوكمة الذكاء الاصطناعي مسألة تقنية محصورة في إدارة تكنولوجيا المعلومات. فهي تمس مباشرةً مجالات مثل الموارد البشرية والتسويق والامتثال التنظيمي والإدارة العامة، بل وحتى الهيئات الجماعية.
لنتخيل إدارة للموارد البشرية تستخدم الذكاء الاصطناعي لفرز السير الذاتية آليًا. فحتى لو كانت البيانات مشفرة ومخزنة وفقًا للائحة العامة لحماية البيانات (GDPR)، فإن استبعاد النموذج بصورة منهجية للنساء اللواتي تجاوزن الخمسين يضعنا أمام تحيز هيكلي. من يكتشفه؟ ومن يصححه؟ ومن يتحمل المسؤولية؟ ليس هذا سؤالًا لمختص المعلوماتية، بل سؤال للمؤسسة بأكملها.
الخلط الثالث: «حوكمة الذكاء الاصطناعي هي الإشراف على البيانات»
أطر حوكمة البيانات، كما نعلم جيدًا، مصممة للإجابة عن أسئلة رئيسية: من يملك البيانات؟ كيف تُخزَّن؟ ما القواعد المطبقة على تبادلها؟ هل هي موثوقة ومطابقة للتنظيم؟
كل هذا لا غنى عنه.
لكن الذكاء الاصطناعي يتطلب نوعًا آخر من الأسئلة:
* كيف يُدرَّب النموذج ووفق أي معايير؟
* من يتحقق من صحة النتائج؟
* كيف يُدقَّق سلوكه؟
* ما الآليات المتاحة لتصحيح خطأ آلي في الوقت الفعلي؟
عندما تستخدم شركة تأمين الذكاء الاصطناعي لتحديد أقساط متفاوتة من دون أن يعرف حتى المدير العام كيف يفعل ذلك، فلسنا أمام مشكلة حوكمة بيانات.
بل نحن أمام تفويض للسلطة بلا رقابة.
لائحة الذكاء الاصطناعي (AI Act): نقطة التحول الأوروبية
تنطلق لائحة الذكاء الاصطناعي للاتحاد الأوروبي (AI Act)، السارية منذ أغسطس 2024، من هذا التمييز تحديدًا. فهي لا تخلط بين حوكمة الذكاء الاصطناعي وحماية البيانات، بل تنشئ إطارًا خاصًا من الالتزامات لتصميم أنظمة الذكاء الاصطناعي ونشرها والإشراف عليها، ولا سيما في السياقات عالية المخاطر.
لقد أدرك الاتحاد الأوروبي أن الذكاء الاصطناعي لا يقتصر على العمل بالبيانات: بل يعمل على الأشخاص والحقوق والقرارات والهياكل. ومن ثم، يجب أن يخضع لمبادئ مثل الشفافية، وقابلية التفسير، والمساءلة، والتدخل البشري الفعلي.
خلاصة القول: إدارة البيانات جيدًا لا تكفي.
فهذا أشبه بالقول إنه ما دامت للسيارة إطارات جيدة، فلا حاجة إلى تنظيم السائق.
الذكاء الاصطناعي لا يعالج المعلومات فحسب: بل يتصرف.
ولهذا لا يمكن اختزال حوكمة الذكاء الاصطناعي في الممارسات الجيدة للبيانات. إنها تتطلب إطارًا جديدًا، وتغييرًا في العقلية.
وتتطلب، قبل كل شيء، قيادة مؤسسية تسلّم بأن حوكمة الذكاء الاصطناعي هي حوكمة السلطة الخفية التي تتخذ اليوم قرارات بلا وجه ولا توقيع.
