قالت تويتش – منصة البث المباشر المملوكة لشركة أمازون – إنها تطلق أداة لاكتشاف المستخدمين الذين يحاولون الوصول إلى القنوات التي تم حظرهم فيها.
وصممت المنصة الأداة لاكتشاف الأشخاص الذين ينشئون حسابات جديدة للتحايل على حظر القنوات.
وتضع الأداة الجديدة، المسماة اكتشاف المستخدم المشبوه، علامة على المتهربين من حظر القناة المحتملين بحيث يمكن لصناع محتوى هذه القنوات والمشرفين عليها أن يقرروا ما إذا كانوا يتخذون إجراءً أم لا.
وتعرضت المنصة لضغوط من المستخدمين لمكافحة الانتهاكات عبرها، بما في ذلك المضايقات المستهدفة وما يسمى بغارات الكراهية حيث تمتلئ محادثات صناع المحتوى برسائل مضايقة.
وقالت المنصة، التي تحظى بشعبية بين لاعبي ألعاب الفيديو، إنها أطلقت الأداة استجابة لتعليقات المستخدمين حول الحاجة إلى طرق لتحسين مكافحة المتهربين من الحظر.
وأوضحت أليسون هوفمان، مديرة منتج تويتش لصحة المجتمع: إن الأداة تعالج تلك المشكلة الأساسية المتمثلة في التحرش المستهدف. سمعنا من خلال التحدث مع صناع المحتوى والمشرفين مع مرور الوقت أن هذه مشكلة مستمرة بالنسبة لهم.
وقالت هوفمان إن أداة التعلم الآلي، التي تطورها تويتش منذ عدة أشهر، تكتشف أنواعًا معينة من سلوك المستخدم وخصائص الحسابات للإبلاغ عن المتهربين المحتملين من الحظر.
أداة تويتش تساعد في التعرف على المستخدمين المحظورين
أشارت هوفمان إلى أنه يتم تشغيل الأداة افتراضيًا لجميع القنوات. ولكن يمكن تعديلها أو إلغاء تنشيطها. وقالت أيضًا إنه يمكن للأشخاص إضافة مستخدمين يدويًا إلى الأداة التي يريدون مراقبتهم عن كثب.
وفي شهر سبتمبر، أضافت المنصة طريقة لصناع المحتوى والمشرفين للمطالبة بالتحقق عبر الهاتف والبريد الإلكتروني قبل أن يتمكنوا من إرسال رسائل الدردشة، في إجراء جديد لمكافحة التحرش.
كما قدمت في ذلك الشهر أيضًا شكوى في المحكمة الفيدرالية الأمريكية ضد اثنين من الأشخاص المروجين للكراهية.
وفي وقت سابق من هذا العام، قالت الشركة إنها تحظر المستخدمين بسبب سوء السلوك الجسيم الذي حدث بعيدًا عن منصتها.
يذكر أن التعلم الآلي لن يكون دقيقًا بنسبة 100 في المئة. ويعني ذلك أن هناك احتمالًا لإيجابيات خطأ وسلبيات كاذبة.
وهذا هو السبب في أن الميزة لا تحظر تلقائيًا جميع المتهربين المحتملين. وتتعلم الأداة من الإجراءات التي تتخذها وتتحسن دقة تنبؤاتها بمرور الوقت نتيجة لذلك.
تويتش: لم يتم تسريب كلمات المرور في الخرق