أعلن Twitter عن نتائج منافسته المفتوحة للعثور على التحيزات في نظام اقتصاص الصور الخاص به.
بدأ تحدي المكافأة في تموز (يوليو) بعد أن أظهر مستخدمو Twitter أن أداة الاقتصاص الآلية للموقع تفضل وجوه الأشخاص ذوي البشرة الفاتحة على الأشخاص ذوي البشرة الداكنة. أثار بعض الأسئلة حول كيفية إعطاء البرنامج الأولوية للون البشرة وعوامل معينة على غيرها.
سعى التحدي إلى العثور على الأخطاء والتحيزات الأخرى التي قد تكون موجودة في نظام الاقتصاص من أجل إصلاح المشكلات.
ذهب المركز الأول إلى بوجدان كولينيتش ، الذي أظهر تقديمه كيف يمكن لمرشحات الجمال أن تتلاعب بنموذج تسجيل الخوارزمية ، والذي بدوره يوسع معايير الجمال التقليدية.أظهر التقديم أن الخوارزمية تفضل الوجوه الشابة والنحيلة ذات لون البشرة الفاتح أو الدافئ. فاز Kulynych بمبلغ 3 و 500 دولار.
المركز الثاني ذهب إلى شركة HALT AI ، وهي شركة تقنية ناشئة في تورنتو ، والتي اكتشفت صورًا لكبار السن والمعاقين تم اقتصاصها من الصور. حصل الفريق على 2000 دولار مقابل احتلاله المركز الثاني
المركز الثالث ، و 500 دولار ، ذهبت إلى رؤيا باكزاد ، مؤسسة Taraaz Research ، التي اكتشفت أن الخوارزمية فضلت اقتصاص النصوص اللاتينية على النصوص العربية ، مما قد يضر بالتنوع اللغوي.
تم تقديم النتائج التفصيلية في DEF CON 29 بواسطة رومان شودري ، مدير فريق META في Twitter. يدرس فريق META المشكلات غير المقصودة في الخوارزميات ويزيل أي نوع من التحيز الجنساني والعرقي قد يكون لهذه الأنظمة.
سيتم استخدام البيانات التي تم الحصول عليها من هذه المسابقة للتخفيف من الأخطاء والتحيز في خوارزمية الاقتصاص والمساعدة في ضمان بيئة أكثر شمولاً.
