عندما تتحاور الآلات من دوننا: الإقصاء البشري، وحوكمة ما لا يُرى، والتحدي التنظيمي الأوروبي
بقلم Antonio Tejeda Encinas ، رئيس Comite Euro Americano Digital Law, Meta Channel Corp.
في قطاعات مثل الخدمات اللوجستية المؤتمتة، والتداول المالي عالي السرعة، وقابلية التشغيل البيني بين المنصات الرقمية، باتت الآلات تتحاور فيما بينها من دون وساطة بشرية. فهي تتبادل البيانات، وتقيّم الخيارات، وتحسّن العمليات، وتنفذ قرارات ذات عواقب قانونية واقتصادية فورية. وهذه الظاهرة، التي كانت تبدو حتى وقت قريب ضربًا من الخيال العلمي، تشكل اليوم جزءًا محوريًا من البنى التحتية التقنية العالمية. ومع ذلك، تظل جوانب حاسمة كثيرة منها بلا معالجة قانونية.
ونحن في اللجنة الأوروبية الأمريكية للقانون الرقمي – CEA Digital Law نلاحظ أن هذا الشكل من التفاعل المستقل بين أنظمة الذكاء الاصطناعي يطرح تحولًا هيكليًا في مبدأ المسؤولية. فلائحة الذكاء الاصطناعي للاتحاد الأوروبي (AI Act)، التي أُقرت مؤخرًا، تضع إطارًا رائدًا لتصنيف أنظمة الذكاء الاصطناعي والإشراف عليها وتقييد استخدامها بحسب مستوى مخاطرها. غير أن اللائحة لا تحسم —ولا تسعى إلى أن تحسم بالكامل— مسألة إمكانية التتبع الفعلي عندما تصدر القرارات بين أنظمة مترابطة من دون تدخل بشري مباشر.
بل أكثر من ذلك: فقد خلّف السحب الأخير لمقترح التوجيه بشأن المسؤولية المدنية عن الأضرار التي يسببها الذكاء الاصطناعي فراغًا مقلقًا. فالمسؤولية الموضوعية، ومبدأ الإسناد، وآليات التعويض لا تزال راسخة في نماذج وُضعت لأشخاص من البشر أو لكيانات مؤسسية تقليدية، لا لتدفقات مستقلة من القرارات الخوارزمية. ومن ثم يجد القانون نفسه أمام مفترق طرق: إما أن يتطور ليستوعب هذه التفاعلات الخفية ويضبطها، وإما أن ينحصر دوره في المعاقبة على العواقب من دون القدرة على استباقها.
ولهذه الفجوة آثار ملموسة تتبيّنها Meta Channel Corporation بوضوح متزايد، في إطار عملها في التمثيل الدولي لشركات من أمريكا اللاتينية ومن العالم في أوروبا. ففي حالات عديدة، تنبع القرارات التي تمس الجهات التي تمثلها —احتجاز البضائع، والتفعيل التلقائي لبنود تعاقدية، والإقصاء من المنصات— من تفاعلات مستقلة بين أنظمة ذكاء اصطناعي تابعة لولايات قضائية مختلفة، من دون شفافية أو تفسير أو قناة فعالة للتظلم. فتجد الشركة البشرية نفسها حبيسة بنية مؤتمتة تقرر نيابةً عنها، من دون وجود جهة بشرية متاحة تتحمل المسؤولية.
لذلك نقترح، في CEA Digital Law، المضي نحو فئة قانونية جديدة: حوكمة التفاعلات المستقلة، تجمع بين:
- التزامات بإمكانية التتبع بين الأنظمة.
- عمليات تدقيق قانونية إلزامية لتدفقات القرارات المستقلة.
- قرينة على المسؤولية المشتركة بين مزودي الأنظمة المستقلة المترابطة ومطوريها ومستخدميها.
ونقترح، في Meta Channel Corporation، استراتيجية وقائية تقوم على التكييف التعاقدي، وتوثيق التدفقات الرقمية، والرصد الخارجي للتفاعلات المؤتمتة، بما يتيح للشركات تحديد المخاطر القانونية قبل أن تتحقق.
نحن أمام نموذج جديد: لم يعد الحوار بين البشر، ولا حتى بين البشر والآلات، بل بين الآلات نفسها. وإذا لم يتكيف القانون مع هذه اللغة الخفية، فسنفقد القدرة على حوكمة الأنظمة التي تحكم العالم.
