اعتذر موقع Facebook عن الحادث الذي قامت فيه أنظمة الذكاء الاصطناعي الخاصة به بوضع علامة على الرجال السود على أنهم مقاطع فيديو للقرود ، ووصفها بأنها خطأ غير مقبول ، وتحقق في ميزة التوصية لمنع حدوث ذلك مرة أخرى.
وفقًا لصحيفة نيويورك تايمز ، تلقى المستخدمون الذين شاهدوا مقطع فيديو 27 يونيو الذي نشرته صحيفة ديلي ميل البريطانية طلبًا تلقائيًا يسأل عما إذا كانوا يرغبون في مواصلة مشاهدة فيديو القرد.
قال متحدث باسم الشركة إن Facebook أوقف تمامًا ميزة توصية الموضوع بمجرد أن أصبح على علم بما يجري. نعتذر لأي شخص قد يكون قد رأى هذه التوصيات المسيئة.
وأضاف المتحدث: “من الواضح أن هذا خطأ غير مقبول. تحقق الشركة في السبب الجذري لمنع تكرار هذا السلوك. وكما قلنا ، على الرغم من أننا قمنا بتحسين الذكاء الاصطناعي لدينا ، فإننا نعلم أنه ليس مثاليًا. أمامنا المزيد من التقدم في المستقبل.
تم اختبار Google و Amazon وشركات التكنولوجيا الأخرى بشكل صارم للتحقق من التحيز في أنظمة الذكاء الاصطناعي على مر السنين ، خاصة عندما يتعلق الأمر بالعرق.
أظهرت الأبحاث أن تقنية التعرف على الوجوه تتعارض مع الأشخاص الملونين ويصعب التعرف عليها. يؤدي هذا إلى حوادث يتم فيها التمييز ضد السود أو القبض عليهم بسبب خطأ في الكمبيوتر.
وفي عام 2015 ، اعتذرت Google عن وضع علامات على صور أشخاص سود كغوريلا من خلال تطبيق الصور الخاص بها.
فيسبوك يعتذر عن الفيديو
يمتلك Facebook أحد أكبر مستودعات الصور في العالم التي يمكن استخدامها لتدريب خوارزميات التعرف على الوجوه والأشياء.
تسأل الشركة التي تخصص المحتوى للمستخدمين استنادًا إلى عاداتهم السابقة في التصفح والتصفح عما إذا كانوا يريدون الاستمرار في مشاهدة المنشورات في فئاتهم الخاصة.
واجهت الشركة وتطبيق مشاركة الصور Instagram مشكلات أخرى متعلقة بالسباق. على سبيل المثال ، بعد بطولة كأس الأمم الأوروبية لكرة القدم في يوليو ، كان أعضاء منتخب إنجلترا لكرة القدم عنصريين على وسائل التواصل الاجتماعي بسبب ركلات الترجيح الفاشلة في إحدى مباريات البطولة.
أثارت القضايا العرقية أيضًا صراعًا داخليًا داخل الشركة. في عام 2016 ، طلب الرئيس التنفيذي مارك زوكربيرج من الموظفين التوقف عن حذف عبارة Black Lives Matter واستبدالها بـ All Lives Matter في مساحة مشتركة في مقر الشركة في مينلو بارك ، كاليفورنيا.
كما نظم مئات الموظفين إضرابًا افتراضيًا العام الماضي احتجاجًا على تعامل الشركة مع نشر الرئيس دونالد ترامب لاغتيال جورج فلويد في مينيابوليس.
في أبريل / نيسان ، حذرت لجنة التجارة الفيدرالية الأمريكية من أن أدوات الذكاء الاصطناعي التي تظهر التحيز العنصري والجنساني يمكن أن تنتهك قوانين حماية المستهلك. هذا إذا تم استخدامه لاتخاذ قرار بشأن الحصول على قرض أو سكن أو عمل.