الوجبات الجاهزة الرئيسية
- ToxMod ، من قبل شركة Modulate التي تتخذ من بوسطن مقراً لها ، تدعي اكتشاف الكلام التخريبي والتصرف ضده تلقائيًا في الوقت الفعلي.
- بدلاً من التقيد بلغة بسيطة ، يستخدم ToxMod التعلم الآلي لمعرفة الأشياء غير الملموسة مثل العاطفة والحجم والإيقاع.
- تم تصميم ToxMod حاليًا للاستخدام مع غرف الدردشة داخل اللعبة ، ولكن لا يوجد سبب لعدم وصولها إلى قناة Twitch الخاصة بك.
تستخدم شركة مقرها بوسطن التعلم الآلي لإنشاء ما تقدمه كأول خدمة تنسيق صوتي أصلي في العالم ، والتي يمكنها التمييز بين ما يقال وما يعنيه.
ToxMod هي محاولة لحل مفارقة تعديل أي مساحة مفتوحة على الإنترنت ؛ لا يوجد عدد كافٍ من البشر لمواكبة الطلب ، لكن الخوارزميات والفلاتر ونظام التقارير لا يفهمون الفروق الدقيقة.
باستخدام قاعدة بيانات ToxMod ، يمكنها تتبع العوامل في كلام اللاعبين مثل العاطفة والحجم ، مما يساعدها على التمييز بين الانقطاع اللحظي ونمط السلوك. تم الإعلان عنه مؤخرًا كإضافة إلى لعبة كرة القدم الأمريكية 7 ضد 7 Gridiron ، حاليًا في Steam Early Access.
"يعلم الجميع أن المضايقات والكلام الذي يحض على الكراهية والسمية في الدردشة الصوتية والألعاب مشكلة كبيرة. وهذا مفهوم بشكل عام ،" قال كارتر هوفمان ، كبير مسؤولي التكنولوجيا والشريك المؤسس لشركة Modulate ، في اجتماع Google مع لايف واير. "يمكننا أن نأخذ الميزات التي كنا نستخرجها من خلال هذه المجموعة المتنوعة من أنظمة التعلم الآلي ودمجها في نظام يأخذ في الاعتبار كل هذه المعرفة المتخصصة التي كنا نتعلمها من المجتمع."
الكل حائل مشرفنا الآلي الجديد
تعمل Modulate على ToxMod منذ الخريف الماضي ، وأدرجتها كواحدة من الخدمات الأساسية الثلاث للشركة. كما يقدم VoiceWear ، وهو قناع صوتي مدعوم من التعلم الآلي ، و VoiceVibe ، وهي خدمة مجمعة تتيح للمستخدمين معرفة ما يناقشه الأشخاص في مجتمعاتهم.
عند تشغيل ToxMod في محادثة ، يمكن برمجتها عبر لوحة إدارة Modulate لاتخاذ مجموعة متنوعة من الإجراءات التلقائية ، مثل إصدار تحذيرات أو كتم صوت اللاعبين أو ضبط مستوى الصوت بشكل فردي.
يستخدم نظام فرز حيث يكون المثيل المحلي هو أول من يتخذ إجراءً ، قبل التحقق من خوادم Modulate للتأكيد. ثم يتصاعد أخيرًا إلى النقطة التي قد تتطلب تدخلًا بشريًا. من خلال إجراء كل فحص بدوره ، والذي يسميه Modulate "بوابات الفرز" ، فإن الفكرة هي أن ToxMod يمنح فريقًا صغيرًا من الوسطاء الأدوات التي يمكن بواسطتها الإشراف بفعالية على مجتمع أكبر بكثير.
قال مايك باباس ، الرئيس التنفيذي لشركة Modulate"الحقيقة المحزنة هي أن كل شخص مر بهذه التجربة ، في محاولة استخدام الدردشة الصوتية على أي منصة كنت تستخدمه ، واكتشاف أن هذه كانت فكرة سيئة ، أيها الفتى". مكالمة فيديو مع Lifewire. "أن تكون قادرًا على الدخول والقول ،" هذا ليس الغرب المتوحش. هناك قواعد. "أعتقد أن هذا مهم حقًا."
كسر النظام
بطبيعة الحال ، السؤال الثاني أو الثالث الذي يجب طرحه حول ToxMod هو كيفية كسره.
مع العديد من أنظمة الإشراف التلقائي ، مثل الخوارزميات التي تحكم تويتر ، من السهل التلاعب بها ضد أشخاص لا تحبهم. ما عليك سوى الإبلاغ الجماعي عن هدفك من خلال عدد قليل من حسابات دمى الجورب وسيتناولون الحظر بشكل موثوق.
قال باباس"على المستوى الأساسي ، لا يحتاج ToxMod إلى الاعتماد على تقارير اللاعبين الإضافية". "لا يزال بإمكانه إنتاج تقديرات قوية للجرائم التي نحتاج [إلى] الاهتمام بها.لا داعي للقلق بشأن محاولة اللاعبين التلاعب بالنظام ، حيث لا يوجد أي شيء للعبه.
يعلم الجميع أن التحرش وخطاب الكراهية والسمية في الدردشة الصوتية والألعاب مشكلة كبيرة.
"كل ما يمكنك التحكم فيه كلاعب هو الصوت الخاص بك" ، تابع باباس. "أسوأ شيء يمكنك القيام به هو أن تكون أقل سوءًا من أي شخص ، لذلك لا نضع علامة عليك كممثل سيئ ، وهو ما أقول إنه شيء قريب من نجاح المهمة."
بشكل عام ، إذن ، الفكرة وراء ToxMod هي محاولة استصلاح نشطة. تعرض العديد من اللاعبين في هذه المرحلة لشكل من أشكال المضايقات من غرباء عشوائيين في القنوات الصوتية المفتوحة ، بدءًا من الإهانات العشوائية إلى التهديدات النشطة. نتيجة لذلك ، يميل اللاعبون إلى الابتعاد عن الدردشة الصوتية بشكل عام ، مفضلين التخلي عن راحتها مقابل راحة البال.
قال باباس: "ما نتوقع رؤيته [هو أن الجهات الفاعلة السيئة تقضي] وقتًا أقل بكثير في الدردشة الصوتية قبل العثور عليها وإزالتها"."هذا له أكثر من مجرد تأثير خطي. عندما يرى الجميع الدردشة الصوتية كمكان أكثر أمانًا ، فإن المزيد من الممثلين الجيدين على استعداد للعودة إلى الدردشة الصوتية وتجربتها. أعتقد أن كل شيء يمكن أن يسير في اتجاه إيجابي."
