الخوارزميات المنحازة

تعدُّ الخوارزمياتُ المرحلةَ الوسطى بين تفكير الاختصاصيِّ في حلِّ مسألة ما والرمازِ البرمجي المكتوب لإسقاط أفكاره على الحاسوبِ باستخدام لغةِ برمجةٍ معينة، ويوجدُ علم قائمٌ بذاته لدراسة أنواعها وكيفية تصميمها بالشكل الأمثل ومحاولةِ تحسين ما تم التوصلُّ إليه منها في مختلف المجالات. ولكن دائماً ما يُنظر إليها على أنها مكوّن جامدٌ معدٌّ مسبقاً لأداء وظيفة ما لا يحيد عنها، فعلى الرغم من ظهور الخوارزميات الذكية والقابلة للتعلم والتي تُستخدم في العديد من التطبيقات كالتنبؤ بالصدمات الإنتانية[1] وتحسين إنتاجية المحاصيل[2] وفلترة الطلبات الجامعية والوظيفية على اعتبار أنها تزيل الأخطاء والانحيازات الناجمة عن قيام البشر بهذه الأعمال. ولكن ليس ذلك ما تبدو عليه الصورة اليوم، إذ قد تكون الخوارزميات «بشرية» أكثر مما نتصور!

بدأت القصة من نقاش خاضه الباحث الرئيسي في جامعة ولاية يوتاه وهو البروفيسور "Suresh Venkatasubramanian " حول قضيةِ «غريغز» ضدَّ شركة «دوك» العاملة في مجال توليد ونقل وتوزيع وبيع الطاقة الكهربائية لعامة الشعب في ولايتي كارولاينا الشمالية والجنوبية، وقد صدر الحكم فيها عام 1971 وحكمت المحكمة الأمريكية العليا ضد شركة دوك.

كانت الشركةُ المذكورة تزودُ مكاتبَ الحكومة الفيدرالية أيضاً بالطاقة الكهربائية وخضعت لذلك السبب لقانون يحظر التمييزَ العنصري بكافة أشكاله في قرارات التوظيف، حيث إنه في الخمسينات، كانت سياسةُ الشركة تقضي بعدم توظيفِ السود إلا كعمالٍ عاديين، وكانت هذه الوظيفةُ تشكلُ المستوى الأقلَّ أجراً في الشركة. وفي النهاية، تم الحكمُ بأن أيَّ قرارٍ يتعلقُ بموضوع التوظيف ويعتمد على التمييز العنصري أو الجنسي أو وجودِ إعاقة جسدية مثلاً يُعتبر قراراً غيرَ شرعي. وهنا خطرت الفكرةُ للباحث في أن يكتشف فيما إذا كانت الخوارزميات تخضع لاعتبارات منحازة وغير متعمّدة كالبشر.

يبدو أن الخوارزمياتِ قابلةٌ للانحياز أيضاً إذا ما اكتشفت أنماطاً أو نماذج ضمن مجموعة جزئية من البيانات المدروسة وكانت هذه البياناتُ مرتبطةً نوعاً ما بخصائصَ سكانيةٍ أو جغرافية حتى لو لم يكن ذلك مذكوراً صراحة في البيانات. فعلى سبيل المثال، إذا تمت مراجعةُ مجموعةٍ من طلباتِ توظيفٍ تم تقييمها بناء على نتائج اختبارات شفهية، فقد تستطيع خوارزمية ما أن تنحاز نحو مجموعةٍ ما منها تشكلُ أقلية إذا ما كانت خصوصيةُ هذه الأقلية مرتبطةً بنتائج عالية.

اقترح "Venkatasubramanian" وزملاؤه خوارزميتين تعملان واحدةً تلو الأخرى، وتقومان بالبحث في المسألة السابقة، وذلك في ورقة بحثية تم تقديمها في مؤتمر رابطة الحوسبة الآلية للمعرفة والاكتشاف في 12 آب/أغسطس. تختبر الخوارزميةُ الأولى ما إذا كانت خوارزميةُ انتخابٍ معينة تسلك سلوكًا منحازًا من خلال تطبيق القاعدة متباينة الأثر من قضية «غريغز» المذكورة سابقاً، أي فيما إذا كانت الخوارزميةُ المدروسة قادرةً على تمييز الذكور من الإناث من بين عينات معينة. وتعمل الخوارزمية الأخرى على تعديل البياناتِ وتجهيزِها ضدَّ عواملِ الانحياز بحيث تعطي أيُّ خوارزميةِ انتخابٍ تُطبَّق عليها نتائجَ عادلة وبعيدة عن الانحياز، وذلك عن طريق تهميش بعض البيانات التي يمكن ربطها بعوامل عرقية أو جنسية أو… إلخ.

ولضمان وثوقية عملهم، قام هؤلاء الباحثون بتطبيق حلهم على ثلاثِ مجموعاتٍ من البيانات كان قد تم تحليلُها مسبقاً ووجدوا بأن طريقتهم أكثرَ فعالية ودقة من الطرائق الأخرى المنافسة[4].

يبدو أن الموضوع في بداياته، فلا يزال فهمُ كيفيةِ وصولِ الخوارزمية لأن تسلك سلوكاً منحازاً صعباً علينا، وفي الوقت نفسه يبدو الموضوع مثيراً جداً للاهتمام، ويبدو أن هذا السلوك متأصل بشكل عفوي في طبيعة نظم المعالجة والتحليل ويتطور نظراً للطبيعة ذاتية التطور لهذه الخوارزميات. كما يعمل "Venkatasubramanian" وزملاؤه حالياً على تطوير نظامٍ للتحقق فيما إذا كنّا قادرين على منح الثقة لعدالة نتائج عمل خوارزميةٍ معينة.

وفي النهاية يبدو أننا أمام نوع جديد من المخلوقات الحية نوعاً ما إذ يقول "Venkatasubramanian": "تخوض الخوارزميات التجارب وتمتلك الخبرات تماماً كما يفعل البشر"[4].

---------------------------------------

المراجع:

1-هنا 2-هنا

3- هنا

4-هنا