أعلنت منصة تويتر عن نتائج المسابقة المفتوحة لإيجاد التحيز الخوارزمي في نظام اقتصاص الصور الخاص بها.
وعطلت الشركة ميزة الاقتصاص التلقائي للصور في شهر مارس بعد أن أشارت التجارب التي أجراها مستخدمو تويتر العام الماضي إلى أنها تفضل الوجوه البيضاء على الوجوه السوداء.
وأطلقت المنصة بعد ذلك برنامج مكافأة الخوارزمية لمحاولة تحليل المشكلة عن كثب.
وأكدت المنافسة هذه النتائج السابقة. وأظهر الإدخال الذي احتل المرتبة الأولى أن خوارزمية الاقتصاص تفضل الوجوه النحيفة والشابة وذات لون البشرة الفاتح وملمس البشرة الناعم مع سمات وجه أنثوية نمطية.
وأظهر المدخلان الثاني والثالث أن النظام كان متحيزًا ضد الأشخاص ذوي الشعر الأبيض أو الرمادي، مما يشير إلى التمييز على أساس السن، ويفضل اللغة الإنجليزية على النص العربي في الصور.
وفي عرض تقديمي لهذه النتائج في مؤتمر DEF CON 29، أشاد رومان تشودري، مدير فريق META في المنصة (الذي يدرس أخلاقيات التعلم الآلي والشفافية والمساءلة)، بالمشاركين لإظهار التأثيرات الواقعية لتحيز الخوارزميات.
وقال شودري: عندما نفكر في التحيزات في نماذجنا، فإن الأمر لا يتعلق بالأكاديمية أو التجريبية فقط. ولكن كيف يعمل ذلك أيضًا مع الطريقة التي نفكر بها في المجتمع.
وكان الفائز بالمركز الأول في المسابقة، والفائز بالجائزة التي تبلغ 3500 دولار، هو بوجدان كولينيتش. طالب الدراسات العليا في EPFL، وهي جامعة بحثية في سويسرا.
واستخدم كولينيتش برنامج ذكاء اصطناعي يسمى StyleGAN2 لإنشاء عدد كبير من الوجوه الواقعية. التي تفاوتت حسب لون البشرة وملامح الوجه الأنثوية مقابل ملامح الوجه الذكورية والنحافة. ومن ثم قام بإدخال هذه المتغيرات في خوارزمية اقتصاص الصور عبر المنصة للعثور على ما تفضله.
وكما يلاحظ كولينيتش في ملخصه، فإن هذه التحيزات الخوارزمية تضخم التحيزات في المجتمع. كما أنها تحذف أولئك الذين لا يستوفون تفضيلات الخوارزمية بشأن وزن الجسم والعمر ولون البشرة.
اقرأ أيضًا: هاجس الاقتصاص التلقائي للصورة يؤرق تويتر
خوارزمية اقتصاص الصور في تويتر متحيزة
أظهر مشارك آخر في المسابقة، فينتشنزو دي سيكو، أن خوارزمية اقتصاص الصور تفضل أيضًا الرموز التعبيرية ذات درجات البشرة الفاتحة على الرموز التعبيرية ذات درجات البشرة الداكنة.
وكشف الإدخال الذي فاز بالمركز الثالث، الذي قدمته رویا پاکزاد، أن التحيزات تمتد إلى الملامح المكتوبة أيضًا. وقارن عمل پاکزاد الصور الهزلية باستخدام النص الإنجليزي والعربي، موضحًا أن خوارزمية اقتصاص الصورة تسلط الضوء بانتظام على النص الإنجليزي.
وبالرغم من أن نتائج منافسة التحيز عبر تويتر قد تبدو محبطة، مما يؤكد الطبيعة المنتشرة للتحيز المجتمعي في الأنظمة الخوارزمية. ولكن توضح أيضًا كيف يمكن لشركات التكنولوجيا مكافحة هذه المشكلات من خلال فتح أنظمتها للتدقيق الخارجي.
وقال شودري: قدرة الأشخاص على الغوص بعمق في نوع معين من التحيز هو أمر لا تملك الفرق في الشركات رفاهية القيام به.
وأكد باتريك هول، أحد القضاة في مسابقة تويتر، أن مثل هذه التحيزات موجودة في جميع أنظمة الذكاء الاصطناعي.
وأضاف الباحث في الذكاء الاصطناعي الذي يعمل في مجال التمييز الخوارزمي: إن الشركات بحاجة إلى العمل بشكل استباقي للعثور عليها.
اقرأ أيضًا: تويتر تريد جعلك قادرًا على إزالة متابعين معينين