هل ينبغي أن نسمح للذكاء الاصطناعي باتخاذ القرارات نيابة عنا؟

مقدمة: هل نأتمن الآلة على قراراتنا؟

تخيّل أن نظامًا للذكاء الاصطناعي يرفض طلبك للحصول على وظيفة، أو يوصي بحرمانك من خدمة مهمة، دون أن تعرف السبب. هل ستقبل القرار لمجرد أن الآلة اتخذته بناءً على تحليل البيانات؟ أم ستطالب بمعرفة كيف وصلت إليه، ومن يتحمل مسؤولية نتائجه؟

لم يعد الذكاء الاصطناعي مجرد أداة تساعدنا على البحث والكتابة؛ فقد أصبح حاضرًا في مجالات تمس حياة الناس وحقوقهم، مثل الطب والتوظيف والخدمات المالية. ومع اتساع استخدامه، يبرز سؤال جوهري: أين تنتهي مهمة الآلة في تقديم التوصيات، وأين تبدأ مسؤولية الإنسان عن اتخاذ القرار؟

الإجابة ليست في رفض التكنولوجيا أو منحها سلطة مطلقة، بل في تحديد ما يمكن تفويضه إليها، وما ينبغي أن يظل خاضعًا للحكم البشري.

عندما تبدو الخوارزمية واثقة، لكنها مخطئة :

يمتلك الذكاء الاصطناعي قدرة كبيرة على تحليل كميات ضخمة من البيانات واكتشاف أنماط قد يصعب على الإنسان ملاحظتها. ويمكن لهذه القدرة أن تحسّن التشخيص الطبي، وتسرّع إنجاز المعاملات، وتساعد المؤسسات على اتخاذ قرارات أكثر استنارة.

لكن هل تعني القدرة على تحليل البيانات أن النتيجة صحيحة بالضرورة؟

لنتأمل مثالًا بسيطًا: نظام لتقييم المتقدمين إلى الوظائف يمنح درجات أعلى لخريجي جامعات معينة، اعتمادًا على بيانات تاريخية. قد يبدو هذا المعيار منطقيًا إحصائيًا، لكنه قد يستبعد أشخاصًا أكفاء لم تتح لهم فرص تعليمية مماثلة. وهكذا، يمكن للنظام أن يعيد إنتاج تحيزات موجودة في البيانات بدلًا من تصحيحها.

وتظهر خطورة هذه المشكلة عندما تتحول التوصية التقنية إلى قرار فعلي.

في عام 2020، اعتُقل الأمريكي روبرت ويليامز خطأً بعد أن أشارت تقنية التعرف على الوجوه إلى تطابق محتمل بين صورته وصورة شخص مشتبه به في سرقة. ووفقًا للاتحاد الأمريكي للحريات المدنية، احتُجز ويليامز نحو 30 ساعة قبل أن تتضح براءته من الواقعة. وفي عام 2024، أُعلن عن تسوية للقضية تضمنت تغييرات في سياسات شرطة ديترويت بشأن استخدام هذه التقنية.

توضح هذه الواقعة أن الخطأ لا يكمن دائمًا في النظام وحده، بل قد يكمن أيضًا في طريقة تعامل البشر مع نتائجه. فالمطابقة الاحتمالية ليست دليلًا قاطعًا، والتوصية الآلية لا ينبغي أن تحل محل التحقق المستقل.

الدرس هنا واضح: كلما زادت خطورة القرار، ازدادت الحاجة إلى التحقق البشري من مخرجات الذكاء الاصطناعي.

ليست كل القرارات متساوية :

لا توجد ضرورة لإخضاع كل استخدام للذكاء الاصطناعي للمستوى نفسه من الرقابة؛ فاقتراح موعد اجتماع يختلف جذريًا عن اتخاذ قرار بحرمان شخص من العلاج أو العمل.

ويمكن تقسيم القرارات، بصورة عملية، إلى ثلاث فئات:

1. 1. قرارات منخفضة المخاطر: مثل تنظيم الرسائل وتلخيص المستندات واقتراح المواعيد، مع إتاحة التصحيح عند الحاجة.

1. 1. قرارات متوسطة المخاطر: مثل ترتيب طلبات العملاء أو فرز طلبات التوظيف مبدئيًا؛ تتطلب هذه القرارات اختبارات دورية، ومراجعة للمعايير، وإمكانية التدخل البشري.

1. 1. قرارات عالية المخاطر: مثل القرارات المؤثرة في الحقوق الأساسية أو الحرية الشخصية أو الرعاية الصحية؛ مما يجعلها تحتاج إلى ضمانات أقوى، تشمل المراجعة الفعلية، وتوثيق الأسباب، وإتاحة الاعتراض.

وتؤكد توصية منظمة اليونسكو بشأن أخلاقيات الذكاء الاصطناعي أهمية حماية حقوق الإنسان وكرامته، وعدم التنازل عن المسؤولية البشرية النهائية في القرارات التي تستلزم حكمًا أخلاقيًا أو قد تترتب عليها عواقب جسيمة.

الإشراف البشري: ضرورة أم إجراء شكلي؟

قد تقول مؤسسة إنها تحتفظ بالإشراف البشري على أنظمتها الذكية؛ لكن ماذا لو كان الموظف المسؤول يراجع مئات القرارات يوميًا، ولا يملك الوقت الكافي لفحصها، أو لا يستطيع الاعتراض على توصيات النظام؟

في هذه الحالة، يصبح الإشراف البشري مجرد خطوة شكلية؛ ولكي يكون فعالًا، يجب أن يمتلك المسؤول بعض القدرات الأساسية مثل:

1. 1. الفهم: معرفة حدود النظام ومواطن عدم اليقين في نتائجه.

1. 1. الاستقلال: القدرة على مراجعة التوصية ورفضها دون ضغوط غير مبررة.

1. 1. الصلاحية: إمكانية تعديل القرار أو إيقاف النظام عند الضرورة.

1. 1. المساءلة: تحديد المسؤول عن القرار والجهة التي تتلقى الشكاوى وتعالج الأخطاء.

ويتناول قانون الذكاء الاصطناعي الأوروبي هذه المسألة في المادة 14، التي تنظم الإشراف البشري على الأنظمة عالية المخاطر.

والغاية ليست مجرد وجود إنسان في نهاية العملية، بل ضمان قدرته الفعلية على فهم مخرجات النظام والتدخل عند الحاجة.

مَن يتحمل المسؤولية إذا أخطأت الآلة؟

إذا رفض نظام ذكي طلب قرض بسبب بيانات غير صحيحة، فمَن المسؤول عن تصحيح القرار؟ هل يمكن للمؤسسة الاكتفاء بالقول إن النظام هو مَن اتخذ القرار؟

بالطبع لا، فالأَنظمة لا ينبغي أن تتحول إلى وسيلة تتنصل بها المؤسسات من مسؤولياتها. فيجب تحديد الجهة التي اعتمدت النظام، والشخص المسؤول عن مراجعة نتائجه، والآلية التي تتيح للمتضرر الاعتراض والحصول على تفسير مناسب.

كما لا يكفي اختبار النظام عند إطلاقه؛ فقد يتراجع أداؤه مع تغير البيانات أو ظروف الاستخدام. ولهذا تحتاج المؤسسات إلى متابعة مستمرة، وتوثيق للقرارات المهمة، وإجراءات واضحة للتعامل مع الأخطاء.

ويقدم المعهد الوطني الأمريكي للمعايير والتقنية إطارًا لإدارة مخاطر الذكاء الاصطناعي، يقوم على الحوكمة وتحديد المخاطر وقياسها وإدارتها. ويساعد هذا النهج المؤسسات على الانتقال من الاستخدام العشوائي للتقنية إلى الاستخدام المنظم والمسؤول.

كيف نعرف ما يجوز تفويضه إلى الذكاء الاصطناعي؟

قبل منح أي نظام صلاحية اتخاذ قرار، ينبغي أن تطرح المؤسسة خمسة أسئلة:

1. 1. ما الضرر المحتمل إذا أخطأ النظام؟

1. 1. هل يمكن فهم النتيجة والتحقق من أساسها؟

1. 1. هل يستطيع الشخص المتأثر الاعتراض على القرار؟

1. 1. هل اختُبر النظام للتأكد من عدالته ودقته لدى الفئات المختلفة؟

1. 1. مَن يتحمل المسؤولية النهائية عن النتيجة؟

إذا كان الخطأ محدود الأثر وسهل التصحيح، فقد تكون الأتمتة خيارًا مناسبًا. أما إذا كان القرار يمس حقًا أساسيًا أو يترتب عليه ضرر يصعب إصلاحه، فينبغي تشديد الرقابة، وضمان مراجعة بشرية حقيقية، وعدم الاعتماد على توصية النظام وحدها.

ويجب أن تتحول هذه المبادئ إلى سياسة مكتوبة تحدد صلاحيات النظام، ومسؤوليات العاملين، وآليات الاعتراض، وشروط إيقافه عند تجاوز مستوى المخاطر المقبول.

خاتمة: التقنية تساعدنا، لكنها لا تعفينا من المسؤولية

لم يعد السؤال الأهم هو ما إذا كان الذكاء الاصطناعي قادرًا على اتخاذ القرارات، بل ما القرارات التي ينبغي السماح له باتخاذها، وتحت أي شروط؟

يمكن للأنظمة الذكية أن تساعدنا على تحليل المعلومات بسرعة، واكتشاف الأنماط، وتقليل الوقت والجهد. لكن كفاءتها لا تجعلها معصومة من الخطأ، ولا تعفي البشر والمؤسسات من مسؤولية النتائج.

إن الاستخدام المسؤول للذكاء الاصطناعي يبدأ بتحديد واضح للصلاحيات، وإشراف بشري فعلي، وشفافية مناسبة، وآليات تضمن تصحيح الأخطاء ومحاسبة المسؤولين.

فالنجاح لا يُقاس بعدد القرارات التي تستطيع الآلة اتخاذها نيابةً عنا، بل بقدرتنا على توظيفها لتحسين قراراتنا دون التخلي عن حقوق الإنسان أو مسؤوليتنا الأخلاقية.