جوجل تريد الحد من التحيز في المنتجات

قالت جوجل لرويترز هذا الأسبوع إنها تعمل على تطوير بديل لطريقة الصناعة القياسية لتقييم لون البشرة.

تعتقد مجموعة متزايدة من الباحثين في مجال التكنولوجيا وأطباء الأمراض الجلدية أن هذه الطريقة ليست كافية لتقييم ما إذا كانت المنتجات منحازة للون.

هناك مقياس من ستة ألوان معروف باسم FST يستخدمه أطباء الجلد منذ السبعينيات.

اقرأ أيضا:

تعتمد شركات التكنولوجيا عليها لتصنيف الأشخاص وتحديد ما إذا كانت منتجات مثل أنظمة التعرف على الوجه أو مستشعرات معدل ضربات القلب تعمل بشكل جيد على قدم المساواة مع ألوان البشرة المختلفة.

يقول النقاد إن حزب الحرية يتجاهل التنوع بين السود. يتضمن المقياس أربع فئات للجلد الأبيض وواحدة لكل من الأسود والبني.

وفي أكتوبر الماضي ، أوصى باحثون في وزارة الأمن الداخلي الأمريكية بإسقاط FST لتقييم التعرف على الوجه. هذا يرجع إلى حقيقة أن المعيار يعكس بشكل سيء التدرج اللوني في مجموعات سكانية مختلفة.

قالت جوجل: نحن نبحث عن تدابير أكثر فعالية. نحن نعمل على إجراءات بديلة وأكثر تعقيدًا قد تكون مفيدة في تطوير منتجاتنا. في هذا الاتجاه ، نتعاون مع الخبراء العلميين والطبيين ، وكذلك مع المجموعات التي تعمل مع مجتمعات ملونة.

اقرأ أيضا:

يعد النقاش جزءًا من قضية أكبر تتعلق بالعنصرية والتنوع في صناعة التكنولوجيا ، حيث تكون القوى العاملة أكثر بياضًا من القطاعات الأخرى.

تعمل Google على تطوير معيار جديد للون البشرة:

والأهم من ذلك هو التأكد من أن التكنولوجيا تعمل مع جميع ألوان البشرة ، وكذلك لمختلف الأعمار والأجناس. وذلك لأن المنتجات الجديدة ، التي غالبًا ما تستخدم الذكاء الاصطناعي ، تنتشر في مناطق حساسة مثل الرعاية الصحية وإنفاذ القانون.

تعرف الشركات أن منتجاتها قد تكون معيبة بالنسبة للمجموعات غير الممثلة في بيانات البحث والاختبار.

وعندما أعلنت جوجل في فبراير أن الكاميرات في بعض هواتف أندرويد يمكنها قياس معدل ضربات القلب بطرف إصبع ، قالت إن متوسط ​​القراءة كان 1.8 في المائة ، بغض النظر عما إذا كان المستخدمون فاتحًا أم مظلمين.

اقرأ أيضا:

تأكدت الشركة من أن نوع البشرة لن يؤثر على نتائج ميزة تصفية الخلفية في Google Meet. لا توجد أيضًا أداة مستقبلية لاكتشاف الجلد على شبكة الإنترنت ، تسمى بشكل غير رسمي Derm Assist.

حتى وقت قريب ، لم تكن شركات التكنولوجيا مهتمة بهذا الأمر.

استشهد اتحاد Unicode الذي يشرف على الرموز التعبيرية بـ FST في عام 2014 كأساس لاعتماد 5 درجات ألوان للبشرة بعد الأصفر.

ووجدت دراسة أجريت عام 2018 بعنوان Gender Shades أن أنظمة تحليل الوجه غالبًا ما تضلل الأشخاص ذوي البشرة الداكنة.

في دراسة أجريت في أبريل لاختبار الذكاء الاصطناعي في اكتشاف التزييف العميق ، كتب باحثو فيسبوك أنه من الواضح أن معيار FST لا يشمل مجموعة متنوعة من درجات اللون البني والأسود للبشرة.