الوجبات الجاهزة الرئيسية
- التحيز الخوارزمي ضار بالمراهقين الذين يقضون الكثير من الوقت على الإنترنت ، كما يقول الخبراء.
- واجه مستخدمو Twitter مؤخرًا مشكلة تم فيها إعدام الوجوه السوداء لصالح الوجوه البيضاء.
- العقول النامية للمراهقين قد تكون عرضة بشكل خاص للآثار الضارة لتحيز الخوارزميات ، كما يقول الباحثون.
التحيز المخبأ في بعض التقنيات ، والمعروف باسم التحيز الخوارزمي ، يمكن أن يكون ضارًا للعديد من المجموعات ، لكن الخبراء يقولون إنه ضار بشكل خاص بالمراهقين.
التحيز الخوارزمي ، عندما تظهر أنظمة الكمبيوتر نتائج متحيزة ، هو مشكلة متنامية. وجد مستخدمو Twitter مؤخرًا مثالًا على التحيز على النظام الأساسي عندما كانت خوارزمية الكشف عن الصور التي تحصد الصور تقطع الوجوه السوداء لصالح الوجوه البيضاء. اعتذرت الشركة عن المشكلة ، لكنها لم تصدر إصلاحًا بعد. يقول الخبراء إنه مثال على التحيز الذي يواجهه المراهقون عند الاتصال بالإنترنت ، وهو ما يفعلونه أكثر من أي فئة عمرية أخرى.
"معظم المراهقين لا يدركون أن شركات وسائل التواصل الاجتماعي لديها هذه الأدوات للترويج لمحتوى معين يعتقدون أن المستخدمين سيحبهون [من أجل] حملهم على البقاء لأطول فترة ممكنة على المنصة ،" د. ماي- قال لي نجوين ستيرز ، الأستاذ المساعد في كلية التمريض بجامعة دوكين ، والذي يدرس استخدام وسائل التواصل الاجتماعي بين المراهقين / طلاب الجامعات ، في مقابلة عبر البريد الإلكتروني.
أضاف ستيرز"حتى لو كان هناك مستوى معين من الوعي بالخوارزمية ، فإن تأثير عدم الحصول على عدد كافٍ من الإعجابات والتعليقات لا يزال قوياً ويمكن أن يؤثر على تقدير المراهقين لذاتهم".
تطوير العقول
قد يؤثر التحيز الخوارزمي على المراهقين بطرق غير متوقعة لأن قشرة الفص الجبهي لا تزال تتطور ، كما أوضح ميكايلا بيساني ، كبير علماء البيانات في Rootstrap ، في مقابلة عبر البريد الإلكتروني.
تأثير عدم الحصول على عدد كافٍ من الإعجابات والتعليقات لا يزال قوياً ويمكن أن يؤثر على احترام الذات لدى المراهقين.
"المراهقون معرضون بشكل خاص لظاهرة" المصنع الاجتماعي "، حيث تخلق الخوارزميات مجموعات مجتمعية على منصات الإنترنت ، مما يؤدي إلى القلق والاكتئاب إذا لم يتم تلبية احتياجات المراهق للموافقة الاجتماعية" ، قال بيساني. "تبسط الخوارزميات بناءً على بيانات سابقة غير كاملة ، مما يؤدي إلى زيادة تمثيل الصور النمطية على حساب الأساليب الأكثر دقة لتشكيل الهوية.
"من خلال أخذ وجهة نظر أوسع ، نتساءل أيضًا ، كمجتمع ، إذا كنا نريد خوارزميات تشكل رحلات أبنائنا المراهقين إلى مرحلة البلوغ ، وهل يدعم هذا النظام النمو الشخصي الفردي بدلاً من خنقه؟"
بسبب هذه المشاكل ، هناك حاجة متزايدة لوضع المراهقين في الاعتبار عند تصميم الخوارزميات ، كما يقول الخبراء.
"استنادًا إلى المدخلات من المتخصصين في التنمية وعلماء البيانات ودعاة الشباب ، يمكن أيضًا وضع سياسات القرن الحادي والعشرين حول خصوصية البيانات وتصميم الخوارزميات مع وضع احتياجات المراهقين الخاصة في الاعتبار ،" أفريل إيبس دارلينج ، حاصلة على درجة الدكتوراه طالب في جامعة هارفارد ، كتب مؤخرًا. "إذا واصلنا بدلاً من ذلك التقليل من أهمية أو تجاهل الطرق التي يتعرض بها المراهقون للعنصرية الخوارزمية ، فمن المحتمل أن يتردد صداها عبر الأجيال القادمة."
مكافحة التحيز
حتى يتم إيجاد حل ، يحاول بعض الباحثين إيجاد طرق لتقليل الضرر الذي يلحق بالشباب من خلال الخوارزميات المتحيزة.
قال ستيرز"لقد ركزت التدخلات على جعل المراهقين يدركون أن أنماط وسائل التواصل الاجتماعي الخاصة بهم تؤثر سلبًا على صحتهم العقلية وتحاول التوصل إلى استراتيجيات للتخفيف من ذلك (على سبيل المثال ، تقليل استخدام وسائل التواصل الاجتماعي)".
وتابعت"أشار بعض طلاب الجامعات الذين قابلناهم إلى أنهم يشعرون بأنهم مجبرون على إنشاء محتوى ليظل" ذا صلة "، حتى لو لم يرغبوا في الخروج أو النشر". "ومع ذلك ، فإنهم يشعرون أنهم بحاجة إلى إنشاء محتوى للحفاظ على اتصالاتهم مع متابعيهم أو أصدقائهم."
قد تكون الإجابة النهائية هي إزالة التحيز البشري من أجهزة الكمبيوتر. لكن بما أن المبرمجين هم بشر فقط ، فهذا تحد صعب ، كما يقول الخبراء.
أحد الحلول الممكنة هو تطوير أجهزة كمبيوتر لا مركزية ومبرمجة لنسيان الأشياء التي تعلموها ، كما يقول جون سوت ، رئيس قسم التكنولوجيا في شركة الروبوتات KODA.
قال سويت في مقابلة عبر البريد الإلكتروني: "من خلال شبكة لامركزية ، يتم تجميع البيانات وتحليلات تلك البيانات وتحليلها من عدة نقاط". "لا يتم جمع البيانات ومعالجتها من خلال معالجة ذهنية واحدة للذكاء الاصطناعي ضمن حدود خوارزميتها ، ولكن من المئات أو حتى الآلاف.
"أثناء جمع هذه البيانات وتحليلها ، يتم نسيان" الاستنتاجات "القديمة أو البيانات الزائدة عن الحاجة. ومن خلال هذا النظام ، ستعمل الخوارزمية التي ربما بدأت بالتحيز في النهاية على تصحيح هذا التحيز واستبداله إذا ثبت خطأه."
بينما قد يكون التحيز مشكلة قديمة ، فقد تكون هناك طرق لمكافحتها ، على الأقل عبر الإنترنت. الخطوة الأولى هي تصميم أجهزة الكمبيوتر التي تتخلص من الأحكام المسبقة.
