عندما تصبح التكنولوجيا رمزا للعنصرية!

عدد من الباحثين في جامعة MIT قاموا بإجراء اختبارات لقياس دقة برامج التعرف على الوجه FR Facial Recognition Software التي تستخدمها كبريات شركات التكنولوجيا (آبل، فيسبوك، قوقل، وأمازون). خلصت الدراسة إلى أن مقدرة هذه البرامج على التعرف على الوجوه تعتمد على الجنس واللون.  

فبينما سجلت البرامج دقة عالية في التعرف على صور الرجال من أصول أوروبية Caucasian Men بنسبة بلغت 99٪؜، إلا أن دقتها في التعرف على صور النساء ذوات البشرة الداكنة كانت مخيبة للآمال، إذ لم تتجاوز نسبة 65٪؜.

كما خلصت الدراسة إلى أن دقة البرامج في التعرف على صور الرجال من أصول أوروبية هي أعلى من دقتها في تمييز النساء من أصول أوروبية، على الجانب الآخر؛ سجلت الاختبارات دقة أعلى بكثير في التعرف على الرجال أصحاب البشرة الداكنة مقارنة بالنساء ذوات البشرة الداكنة. لكن أكثر ما أثار ضجة لدى الرأي العام هو فشل تلك الاختبارات في التعرف على شخصيات نسائية تتمتع بشعبية واسعة مثل ميشيل أوباما و أوبرا.

عزا الباحثون هذه الظاهرة إلى أن نسبة كبيرة من المبرمجين الذين قاموا بتطوير برامج التعرف على الوجه facial recognition soft wares هم من الرجال البيض؛ وهذا ما يعزز فرضية استخدامهم لصورهم (و صور اصدقائهم) في مرحلة تطوير الخوارزميات Logarithms الخاصة بالبرنامج ومرحلة تطوير ال machine learning process؛ وهو الشيء الذي جعل هذه البرامج أكثر مقدرة على التعرف على صور الرجال البيض مقارنة بباقي الفئات.

شركات التكنولوجيا بدورها رحبت بنتائج الدراسة وتعاملت معها بإيجابية؛ فقامت معظم الشركات آنفة الذكر بتطوير برامجها وهو ما زاد من فعاليتها وكفاءتها.

 لا يغيب عن فطنة القارئ أن هذه الثغرات تزامنت مع بداية إطلاق البرامج؛ أما اليوم فقد شهدت هذه البرامج تطورا كبيرا عزز من فعاليتها ومقدرتها على التعرف على الوجوه، حتى أن الأجهزة الأمنية في أمريكا و أوروبا والصين أصبحت تربط كاميرات المراقبة المنتشرة في المطارات ومحطات القطار ببرامج FR للتعرف على خلفيات المسافرين. فعند التقاط صورتك من قبل الكاميرات المنتشرة يتم مقارنتها بصورك الموجودة في قاعدة البيانات وهكذا يتم التعرف على شخصيتك وعلى سجلاتك. فإذا كنت من الأشخاص كثيري السفر، وإذا خلا سجلك من أي ملاحظات أو نقاط تساؤل فإن موظفي الأمن يقومون بتسهيل إجراءات سفرك. أما إذا كنت ضمن قوائم المراقبة؛ أو احتوى سجلك على أي إشارة استفهام فإن موظف الأمن يقوم باختيارك بدقة من بين مئات المسافرين لإخضاعك لمزيد من الفحص والتفتيش.

توقفت قبل شهر في مطار شيكاغو في طريقي إلى هيوستن. لاحظت أن عددا من عناصر الأمن جاؤوا إلى بوابة الدخول إلى الطائرة (وهذا إجراء غير معتاد في المطارات الأمريكية) وأخذوا في استدعاء بعض المسافرين بصورة عشوائية لإخضاعهم لمزيد من التفتيش. لم يساورني شك أن إسمي وسحنتي سيجعلان مني لقمة سائغة و سيقوداني لا محالة إلى التفتيش العشوائي. لكن صدمتي كانت كبيرة، فقد تبسموا عند مروري وطلبوا مني الصعود إلى الطائرة بلطف ودون تفتيش إضافي قائلين "نتمنى لك رحلة سعيدة".

 بدا لي أن طبيعة عملي التي تفرض علي الكثير من السفر عبر مطار شيكاغو، ومروري المتكرر على كاميرات المطار المرتبطة بتقنية FR جعلني شخصا معروفا لا يحتاج إلى مزيد فحص و تدقيق؛ حينها شعرت بالامتنان والتقدير لشركات التكنولوجيا.