الوجبات الجاهزة الرئيسية
- أداة برمجية جديدة تسمح للذكاء الاصطناعي بمراقبة تعليقات الإنترنت بحثًا عن خطاب الكراهية.
- هناك حاجة إلى الذكاء الاصطناعي لتعديل محتوى الإنترنت بسبب الحجم الهائل للمواد التي تفوق القدرات البشرية.
- لكن بعض الخبراء يقولون إن مراقبة الذكاء الاصطناعي للكلام تثير مخاوف بشأن الخصوصية.
مع زيادة خطاب الكراهية عبر الإنترنت ، تقول إحدى الشركات إنها قد يكون لديها حل لا يعتمد على الوسطاء البشريين.
توفر شركة ناشئة تسمى Spectrum Labs تقنية ذكاء اصطناعي لمزودي الأنظمة الأساسية لاكتشاف وإغلاق عمليات التبادل السامة في الوقت الفعلي. لكن الخبراء يقولون إن مراقبة الذكاء الاصطناعي تثير أيضًا مشكلات تتعلق بالخصوصية
"غالبًا ما تتطلب مراقبة الذكاء الاصطناعي النظر إلى الأنماط بمرور الوقت ، مما يستلزم الاحتفاظ بالبيانات" ، هذا ما قاله ديفيد مودي ، أحد كبار المساعدين في شركة شيلمان ، وهي شركة لتقييم الامتثال للأمان والخصوصية ، لـ Lifewire في مقابلة عبر البريد الإلكتروني. "قد تتضمن هذه البيانات البيانات التي حددتها القوانين على أنها بيانات خصوصية (معلومات التعريف الشخصية أو PII)."
المزيد من الكلام الكراهية
تعد Spectrum Labs بحل عالي التقنية لمشكلة الكلام الذي يحض على الكراهية.
"في المتوسط ، نساعد المنصات على تقليل جهود الإشراف على المحتوى بنسبة 50٪ وزيادة اكتشاف السلوكيات السامة بمقدار 10x" ، كما تدعي الشركة على موقعها على الإنترنت.
تقول Spectrum إنها عملت مع معاهد بحثية ذات خبرة في سلوكيات ضارة محددة لبناء أكثر من 40 نموذجًا لتحديد السلوك. تم إنشاء منصة إدارة المحتوى Guardian الخاصة بالشركة بواسطة فريق من علماء البيانات والمشرفين "لدعم حماية المجتمعات من السمية."
هناك حاجة متزايدة إلى طرق لمكافحة خطاب الكراهية لأنه من المستحيل على الإنسان مراقبة كل جزء من حركة المرور عبر الإنترنت ، ديلان فوكس ، الرئيس التنفيذي لشركة AssemblyAI ، وهي شركة ناشئة توفر التعرف على الكلام ولديها عملاء يشاركون في مراقبة الكراهية الكلام ، قال Lifewire في مقابلة عبر البريد الإلكتروني.
أضاف "هناك حوالي 500 مليون تغريدة يوميا على موقع تويتر وحده". "حتى لو تمكن شخص واحد من التحقق من تغريدة كل 10 ثوانٍ ، سيحتاج تويتر إلى توظيف 60 ألف شخص للقيام بذلك. بدلاً من ذلك ، نستخدم أدوات ذكية مثل الذكاء الاصطناعي لأتمتة العملية."
على عكس الإنسان ، يمكن للذكاء الاصطناعي أن يعمل على مدار الساعة طوال أيام الأسبوع وربما يكون أكثر إنصافًا لأنه مصمم لتطبيق قواعده بشكل موحد على جميع المستخدمين دون تدخل أي معتقدات شخصية. هناك أيضًا تكلفة لأولئك الأشخاص الذين يتعين عليهم مراقبة المحتوى والإشراف عليه.
وقال"يمكن أن يتعرضوا للعنف والكراهية والأفعال الدنيئة التي يمكن أن تضر بالصحة العقلية لأي شخص".
شركة Spectrum ليست الشركة الوحيدة التي تسعى إلى اكتشاف خطاب الكراهية عبر الإنترنت تلقائيًا. على سبيل المثال ، أطلق مركز ماليزيا مؤخرًا أداة تعقب عبر الإنترنت مصممة للعثور على كلام يحض على الكراهية بين مستخدمي الإنترنت الماليزيين. يستخدم البرنامج الذي طوروه والمسمى Tracker Benci التعلم الآلي لاكتشاف الكلام الذي يحض على الكراهية عبر الإنترنت ، وخاصة على Twitter.
التحدي هو كيفية إنشاء مساحات يمكن للناس من خلالها التفاعل مع بعضهم البعض بشكل بناء.
مخاوف الخصوصية
في حين أن الحلول التقنية مثل Spectrum قد تحارب خطاب الكراهية عبر الإنترنت ، فإنها تثير أيضًا أسئلة حول المقدار الذي يجب أن تقوم به أجهزة الكمبيوتر الشرطية.
هناك آثار تتعلق بحرية التعبير ، ولكن ليس فقط للمتحدثين الذين ستتم إزالة مشاركاتهم على أنها خطاب كراهية ، كما قالت إيرينا رايكو ، مديرة أخلاقيات الإنترنت في مركز ماركولا للأخلاقيات التطبيقية في جامعة سانتا كلارا ، لموقع لايف واير في رسالة بريد إلكتروني المقابلة
قال رايكو"السماح بالمضايقات باسم" حرية التعبير "دفع أهداف مثل هذا الخطاب (خاصة عندما يستهدف أفرادًا معينين) إلى التوقف عن التحدث والتخلي عن المحادثات والمنصات المختلفة تمامًا"."التحدي هو كيفية إنشاء مساحات يمكن للناس من خلالها التفاعل مع بعضهم البعض بشكل بناء."
قال فوكسيجب ألا تثير مراقبة الكلام بالذكاء الاصطناعي قضايا الخصوصية إذا استخدمت الشركات المعلومات المتاحة للجمهور أثناء المراقبة. ومع ذلك ، إذا اشترت الشركة تفاصيل حول كيفية تفاعل المستخدمين على الأنظمة الأساسية الأخرى لتحديد المستخدمين الذين يعانون من مشاكل مسبقًا ، فقد يثير ذلك مخاوف تتعلق بالخصوصية.
وأضاف: "يمكن أن تكون بالتأكيد منطقة رمادية قليلاً ، اعتمادًا على التطبيق".
قال جوستين ديفيس ، الرئيس التنفيذي لشركة Spectrum Labs لـ Lifewire في رسالة بريد إلكتروني أن تكنولوجيا الشركة يمكنها مراجعة ما بين 2 إلى 5 آلاف صف من البيانات في غضون أجزاء من الثانية. وقال: "الأهم من ذلك ، يمكن للتكنولوجيا أن تقلل من كمية المحتوى السام الذي يتعرض له المشرفون".
قد نكون على أعتاب ثورة في الذكاء الاصطناعي لرصد الكلام البشري والنصوص عبر الإنترنت. قالت مودي إن التطورات المستقبلية تشمل قدرات مراقبة مستقلة ومستقلة لتحديد الأشكال غير المعروفة سابقًا لخطاب الكراهية أو أي أنماط أخرى خاضعة للرقابة ستتطور.
وأضافسيتمكن الذكاء الاصطناعي قريبًا من التعرف على الأنماط في أنماط الكلام المحددة وربط المصادر وأنشطتها الأخرى من خلال تحليل الأخبار ، والملفات العامة ، وتحليل أنماط حركة المرور ، والمراقبة المادية ، والعديد من الخيارات الأخرى.
لكن بعض الخبراء يقولون إن البشر سيحتاجون دائمًا إلى العمل مع أجهزة الكمبيوتر لمراقبة الكلام الذي يحض على الكراهية.
قال رايكو "الذكاء الاصطناعي وحده لن يعمل". "يجب التعرف عليه كأداة واحدة غير كاملة يجب استخدامها مع الاستجابات الأخرى."
تصحيح 1/25/2022:اقتباس مضاف من Justin Davis في الفقرة الخامسة من النهاية ليعكس بريدًا إلكترونيًا بعد النشر.
