بعد مرور أكثر من عام قدمت جوجل ال مقياس لون بشرة الراهب (MST). ومن أجل ترويض التحيز على الإنترنت، لا تزال المنصات عبر الإنترنت مليئة بالتحيز للون البشرة، وفقًا لما ذكره بحث جديد بواسطة سوني منظمة العفو الدولية.
MST، نتيجة للتعاون بين جوجل وعالم الاجتماع بجامعة هارفارد إليس مونك، تم تحسينه على اللون السداسي أحادي البعد مقياس فيتزباتريك وحاول تقديم تصور أكثر شمولاً للون البشرة من خلال مجموعة من عشرة ألوان قياسية. لكن المقياس لا يزال يترك الكثير مما هو مرغوب فيه عندما يتعلق الأمر بالتمييز الناتج عن لون البشرة الذي تتغذى عليه معظم خوارزميات الذكاء الاصطناعي.
سوني الجديدة ورقة ابحاث (pdf) يشير إلى طبقات إضافية من التحيز تتعلق بلون البشرة الواضح ضمن مجموعات بيانات ونماذج رؤية الكمبيوتر، مع الإشارة إلى أن أوراق بيانات الذكاء الاصطناعي وبطاقات النماذج لا تزال تترك مجالًا كبيرًا للتمييز ضد المجموعات الممثلة تمثيلاً ناقصًا. رؤية الكمبيوتر هي مجموعة فرعية من الذكاء الاصطناعي الذي يركز على تمكين أجهزة الكمبيوتر من تحديد وتفسير العالم من حولها في الصور ومقاطع الفيديو.
التقليل من الخوارزميات دون تحيز
ووجدت الدراسة أن مقاييس لون البشرة الحالية تؤثر على الطريقة التي يصنف بها الذكاء الاصطناعي الأشخاص والعواطف. على سبيل المثال، يؤدي التلاعب بلون البشرة للحصول على لون بشرة أفتح أو لون بشرة أكثر احمرارًا إلى زيادة احتمالية اعتبار الأفراد غير المبتسمين مبتسمين بواسطة الذكاء الاصطناعي. على العكس من ذلك، من المرجح أن يؤدي لون البشرة الداكن أو لون البشرة الأصفر إلى قيام الذكاء الاصطناعي بتصنيف الأفراد المبتسمين على أنهم غير مبتسمين.
وتقول الدراسة إن مصنفات الذكاء الاصطناعي هذه تميل أيضًا إلى التنبؤ بأن الأشخاص ذوي البشرة الفاتحة أكثر أنوثة، والأشخاص ذوي البشرة الحمراء أكثر ابتسامة. وقالت أليس شيانغ، الرئيسة العالمية لأخلاقيات الذكاء الاصطناعي في شركة سوني، في الصحيفة: “هذا يعني أن هناك الكثير من التحيز الذي لم يتم اكتشافه فعليًا”.
وهذا يعني أن تحيز نموذج الذكاء الاصطناعي لا يقتصر على لون البشرة فحسب، بل أيضًا على لون البشرة. وقال ويليام ثونج، أحد الباحثين في مجال رؤية الكمبيوتر: “لقد وجدنا بوضوح تام أن الأشخاص ذوي البشرة الحمراء الفاتحة يميلون إلى الحصول على أداء أعلى أو يتم تفضيلهم في الخوارزمية، بينما الأشخاص ذوي البشرة الصفراء الداكنة سيكون لديهم أداء أقل”. العلماء في شركة Sony AI.
يعتقد الباحثون أنه من خلال جمع التعليقات التوضيحية للون البشرة، يمكنهم مساعدة مطوري الذكاء الاصطناعي على تحديد التحيز في التعرف على الوجه، والتعليق على الصور، والكشف عن الأشخاص، وتحليل صور الجلد في الأمراض الجلدية، وإعادة بناء الوجه، وحتى اكتشاف التزييف العميق – والقضاء عليه.
بينما جوجل هو تستخدم بالفعل MST في منتجاتها، لا تزال نتائج البحث على Google Images مصنفة بخيارات من الفاتح إلى الداكن، فيما يتعلق بظلال الألوان العشرة للمقياس. من ناحية أخرى، ورد أن صور جوجل الصور ذات العلامات الخاطئة للأشخاص السود و تم إنشاء الصور النمطية.
ما هي “Hue Angle” من سوني في تصنيف لون البشرة؟
وللمساعدة في حل المشكلة، تقدم سوني ما تسميه “زاوية هيو”، وهو بُعد جديد لرؤية الكمبيوتر يمتد من النطاق من الأحمر إلى الأصفر، بدلاً من تصنيف لون البشرة في أنواع كما هو الحال مع مقياس فيتزباتريك.
يقول الباحثون إن هذا يتضمن قياسًا متعدد الأبعاد للون البشرة عن طريق قياس مدى انحراف مجموعات بيانات الصور الشائعة نحو لون البشرة الأحمر الفاتح وعدم تمثيل لون البشرة الأصفر الداكن، وكيف تعمل النماذج التوليدية المدربة على مجموعات البيانات هذه على إنتاج تحيزات مماثلة .
تهدف الأداة إلى توفير مقياس لتقييم معايير التنوع للبيانات الموجودة، وتوفير المفتاح لتخفيف التحيز في لون البشرة في مجموعات بيانات ونماذج الذكاء الاصطناعي، وربما التكامل مع مشاريع الذكاء الاصطناعي الجديدة لتمكين المطورين من مراقبة تنوع لون البشرة أثناء جمع البيانات وفي تمثيل المجموعات.
ويقول الباحثون إنهم استمدوا الدوافع من التجارب الشخصية في شراء مستحضرات التجميل، وكذلك من أعمال المصورة البرازيلية أنجليكا داس في توضيح تنوع لون بشرة الإنسان.
في مشروعها Humanae، التقطت داس صورًا لـ 4000 شخص في لندن وطابقوا ألوان بشرتهم مع مخطط ألوان طباعة بانتون لتدوين مخزون لوني فريد. “باستخدام هذا المقياس، أنا متأكدة من أنه لا يوجد أحد “أسود”، ولا أحد على الإطلاق “أبيض”. قال نيوزويك.
ورغم أن داس لا تستطيع التقاط صور لكل شخص في العالم لتحليلها، فإن عملها، جنبا إلى جنب مع عمل جوجل وسوني، يمكن أن يثبت ذات يوم أهمية بالغة لتحقيق إنترنت شامل.