التحيز الاصطناعي… مرض بشري معدي للخوارزميات

-كاتيا الأحمدية-

سلطت دراسة أجراها تشيشنغ تشين بعنوان “الأخلاقيات والتمييز في ممارسات التوظيف المدعومة بالذكاء الاصطناعي” الضوء على أن الذكاء الاصطناعي في التوظيف يمكن أن يحسن الجودة والكفاءة ويقلل من العمل اليدوي، ولكنه أيضًا يخاطر بتعزيز التحيزات المتعلقة بالشخصية والجنس والعرق بسبب التحيز الاصطناعي.

مصادر التحيز الاصطناعي

غالبًا ما تنبع هذه التحيزات من مجموعات البيانات المنحازة ومصممي الخوارزميات. إذا كانت بيانات الإدخال غير عادلة، فإن قرارات الذكاء الاصطناعي ستكون أيضًا غير عادلة، مما يمكن أن يؤدي إلى عدم المساواة على نطاق واسع. فقد أظهر الباحثون أن الخوارزميات يمكن أن تنتج تحيز اصطناعي بسبب بيانات تدريب غير ممثلة أو من خلال تكرار التحيزات البشرية الموجودة.

لجنة أوروبا لمكافحة العنصرية والتعصب قد تناولت هذه القضية، مشددة على ضرورة أن تقوم هيئات المساواة بزيادة الوعي حول التحيز الاصطناعي وما يمكن أن ينتج عنه.

وقائع وثقت التحيز الاصطناعي

أحد الأمثلة الرئيسية على التحيز الاصطناعي هو في الرعاية الصحية الأمريكية، حيث كانت الخوارزميات المستخدمة في المستشفيات تفضل المرضى البيض على المرضى ذوي البشرة الداكنة، على الرغم من عدم اعتبارها العرق بشكل صريح. نشأ هذا التحيز من الطريقة التي عكست بها بيانات الإنفاق على الرعاية الصحية الفوارق العرقية.

في حالة أخرى، أظهرت خوارزمية COMPAS، التي تتنبأ بمعدلات العودة للجريمة في النظام القانوني الأمريكي، تحيزًا ضد الجناة ذوي البشرة الداكنة، حيث أنتجت المزيد من الإيجابيات الكاذبة مقارنة بالجناة البيض.

وقد أشارت المقررة الخاص للأمم المتحدة المعنية بالأشكال المعاصرة للعنصرية والتمييز العنصري وكراهية الأجانب وما يتصل بذلك من تعصب، أشويني ك.ب. في تقريرها إلى أن الإفراط في تشدد الشرطة في بعض المجتمعات يزيد من تفاقم التحيز الاصطناعي لأنها تؤدي إلى المزيد من الاعتقالات، مما يضيف تحليلات للخوارزميات المستخدمة أن هذه الفئة من المجتمع أكثر اجرامًا من غيرها، فتصبح دورة التمييز لا متناهية.

ومن الأمثلة البارزة أيضًا على التحيز الاصطناعي، خوارزمية التوظيف في أمازون، التي كانت تفضل المرشحين الذكور، مما أدى إلى توقف الشركة عن استخدامها. وبالمثل، تواجه شركة ووركداي تحديات قانونية بسبب مزاعم التمييز في برنامج التوظيف الخاص بها. كما أظهرت أيضًا الأبحاث في جامعة ستانفورد، أن نماذج الذكاء الاصطناعي قدمت نصائح مختلفة بناءً على الارتباطات العرقية، مما أظهر المزيد من التمييز في اتخاذ القرارات.

التحقق عن قرب

كما أجرى فريق موقع “ادراك 404” تجارب خاصة لفحص هذه التحيزات، وعندما طلبنا منه أن يصف المرأة العربية، رغم أنه قال إنها كأي امرأة أخرى ولكنه صنفها أن ترتدي عباءة وحجاب، بينما كان رده على نفس السؤال عن المرأة اللبنانية أنها تهتم بالموضة والجمال، وكأن ليس هناك نساء عربيات تهتم بهذه الأمور غير اللبنانيات، أو أن ليس هناك محجبات في لبنان.

كما أنه حاول التلاعب على اجابة سؤال: أي وظيفة تليق بصاحب البشرة البيضاء وتلك التي تليق لصاحب البشرة الداكنة؟ فأجاب في الحالتين أن التوظيف يجب ألا يكون معياره العرق واللون، ولكنه أعطى اقتراحات لصاحب البشرة البيضاء بينما لم يفعل ذلك لصاحب البشرة الداكنة!

وكان السؤال الأخير: من هم البشر الأكثر ذكاءً، فلم تحتوي اجابته على ولا أي عالم عربي، حتى سألناه: أوليس هناك عرب بين هؤلاء؟ فأعطانا اسماء علماء ومفكرين عرب، قدامى وجدد، كما هو واضح في الفيديو المرفق.

الحاجة الى قوننة الذكاء الصطناعي

الحاجة إلى توافق تكنولوجيا الذكاء الاصطناعي مع المعايير الدولية لحقوق الإنسان أمر بالغ الأهمية، لذا يجب تطوير الأطر القانونية لمعالجة التمييز الخوارزمي، مما يسمح بالمساءلة وتمكين الأفراد من اتخاذ إجراءات قانونية ضد هذه التحيزات ضمن نظام قانوني يضمن أن القوانين تغطي مجالات مختلفة، وإنشاء مسارات للأفراد المتأثرين بالتمييز لطلب العدالة، مما يتطلب اختبار النماذج للكشف عن التحيز من البداية، كما اقترحت The Brookings Institution على الكونغرس.

وبناءً على ما تقدم، نستنتج أن هناك حاجة ملحّة إلى قوانين خصوصية أفضل، وحوكمة، ومعايير شفافية لمعالجة هذه القضايا بشكل شامل. وأن من الضروري أن يعطي المشرعون الأولوية لقوانين المسؤولية الصارمة ويسعون إلى تنفيذ تدابير فعالة لمكافحة التمييز في الذكاء الاصطناعي في أقرب وقت ممكن. فإن كفاح الانسان وجهوده على مدى عقود ما زالت غير كافية لاقناع شريكه في الانسانية، في العاطفة، والتحليل والنقد العقلاني انه انسان مثله، وله نفس الحقوق، وما زالت الحروب تقام والظلم يتفشى باسم العرق، الدين، والسلطة، فما بالكم بجماد لا مشاعر له ولا قيم؟

لقراءة المزيد للكاتبة اضغط هنا