لدى Facebook ما يصل إلى ثلاثة مليارات مستخدم على منصاته المختلفة. بالطبع ، لا يستخدم الكثير من الناس اللغة الإنجليزية كلغة رئيسية لاستخدام هذه المنصات. مما أظهر مدى فشل المنصة في التعامل مع اللغة الأجنبية.
وذلك لأن البحث الداخلي الذي تم إجراؤه داخل فيسبوك نفسه ، والذي تم الكشف عنه ضمن تسريبات “بروفايلز فيسبوك” ، كشف عن ظهور خطاب كراهية ومحتوى مضلل بلغات مختلفة ، دون أن يتم حظره من قبل الشركة.
يدعم Facebook أكثر من 100 لغة عالمية ، لكن فريق مراقبة المحتوى لا يعرف بالضرورة كل هذه اللغات.
كشفت الملفات التي ظهرت عدم وجود منصة للتعرف على خطاب الكراهية في دولة باكستان. هذا يرجع إلى الاعتماد على لغة الباشتو المحلية. بشكل عام ، أظهرت الملفات عدم قدرة النظام الأساسي على التعامل مع المحتوى الضار الذي تتم مشاركته على أساس اللغات الأجنبية.
كما أشارت التسريبات ، فإن المنصة ليست معدة مسبقًا لمتابعة خطاب الكراهية لبعض اللغات. يبدأ الأمر فقط في حالة وجود أي مشكلات تتعلق باللغة أو البلد الذي تتحدث فيه ، ويتم تدريب تقنيات التدقيق الداخلي على التعرف على المحتوى المسيء في الوقت الفعلي.
فشل Facebook في التعامل مع اللغات
كشفت الملفات التي تم إصدارها أيضًا عن إمكانات تدريب الذكاء الاصطناعي للغات ذات الأولوية. مثل لغات الأورومو والأماريكا المستخدمة في إثيوبيا بسبب الحروب الأهلية في البلاد.
من عام 2016 حتى الآن ، استثمر Facebook 13 مليار دولار في تحسين قدرات النظام الأساسي للتعامل مع اللغات لأغراض الحماية والأمن. ربما يكون هذا المبلغ صغيرًا مقارنة بالإيرادات السنوية للشركة. وصلت عائدات Facebook في عام 2020 إلى 85 مليار دولار.
ظهرت مشاكل التعامل مع اللغات في بلد مثل الهند ، التي لديها 800 مليون مستخدم متصل بالإنترنت. فشلت الشركة مرارًا وتكرارًا في تحديد محتوى الكراهية باللغات الهندية المحلية.
نفس المشاكل تتكرر في الشرق الأوسط. هذا لأن Facebook يعتمد على فريق من مراجعي المحتوى في الدار البيضاء ، المغرب. على الرغم من أن اللغة العربية هي لغة واحدة ، إلا أن الاختلاف بين لهجاتها كبير جدًا.
مما يعني أن الشخص المغربي لا يستطيع بسهولة فهم اللهجة الخليجية أو اللهجة التونسية. بالإضافة إلى ذلك ، اعتمد فيسبوك أيضًا على فريق من الموظفين في مدينة إيسن الألمانية ، والذين يعملون أيضًا على مراجعة المحتوى العربي.
وتجدر الإشارة إلى أنه تم استخلاص جميع المعلومات المذكورة أعلاه من ملفات الشركة المسربة. تم تسريبه من قبل مدير مشروع فريق الأمن المدني السابق ، فرانسيس هوغن ، وشق طريقه بالفعل إلى عدد من المنصات الإخبارية.