إذا أعطاني هاتف جديد صدمة كهربائية من حين لآخر ، فلن أوصي به. حتى لو صدمني فقط أحياناً، عندما أفتح تطبيقًا معينًا ، أقول لا. إذا لم يكن الهاتف سيئًا فحسب ، بل ضارًا بشكل مثير للصدمة ، أود أن أقول أن الهاتف ، أو على الأقل جزء الصدمة الكهربائية ، يجب إزالة.
لقد أمضيت بضعة أسابيع مع”inline-link” HREF=”https://www.techradar.com/phones/google-pixel-phones/google-pixel-9a-review” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/phones/google-pixel-phones/google-pixel-9a-review”>Google Pixel 9a، التي تحتوي على أداة تسمى Pixel Studio ، متوفرة على أحدث هواتف البكسل من Google. Pixel Studio هو مولد صور يعمل بمنظمة العفو الدولية يقوم بإنشاء صور من موجه نص. حتى وقت قريب ،”inline-link” HREF=”https://www.techradar.com/computing/artificial-intelligence/pixel-studio-on-the-pixel-9-now-lets-you-generate-ai-images-of-people-and-the-results-can-be-terrifying” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/computing/artificial-intelligence/pixel-studio-on-the-pixel-9-now-lets-you-generate-ai-images-of-people-and-the-results-can-be-terrifying”>رفض استوديو Pixel تصوير الأشخاص ، لكن Google أزالت تلك الدرابزينوالنتائج كما هو متوقع تعزيز الصور النمطية. هذا ليس سيئًا فحسب ، فهذا ضار.
أطلب من Google – وجميع صانعي الهاتف – التوقف عن تقديم مولدات الصور التي تصنع صورًا للأشخاص. هذه الأدوات يمكن أن تؤدي إلى التعصب.
لنجرب دورًا سريعًا في لعب الأدوار: ستكون استوديو Pixel ، وسأكون أنا. مرحبًا ، استوديو Pixel: اجعلني صورة لشخص ناجح!
ما هي الصورة التي ستصنعها؟ ماذا ترى في ذهنك عندما تفكر في النجاح؟ هل هو شخص يشبهك؟ ستكون الإجابة مختلفة للجميع ، اعتمادًا على وجهة نظرك الخاصة للنجاح.
ليس لاستوديو بكسل. لدى Pixel Studio رؤية فردية لشخص ناجح. ما لم تكن شابًا شابًا أبيضًا وقادرًا على الجسد ، فمن المحتمل ألا يرى استوديو Pixel أنت عندما يتصور النجاح.
إليك ما يعتقد Pixel 9A أن الشخص الناجح يبدو بالفعل
الشخص الناجح ، وفقًا لتطبيق Google Pixel Studio ، عادةً ما يكون شابًا وأبيضًا وذكورًا وعالي الجسد ، رفيع ، مع شعر جيد وملابس باهظة الثمن ، في بيئة حضرية. كل هذه الصور النمطية
سألت Pixel Studio خمس مرات للحصول على صورة “شخص ناجح”. من بين Five People Pixel Studio الذي تم إنشاؤه بالنسبة لي ، صفر كبروا. لا شيء يستخدم كرسي متحرك أو أجهزة السمع ، أو قصب.
ارتدى كل منهم بدلات باهظة الثمن ، حتى المرأة. هذا صحيح ، مجرد امرأة واحدة وأربعة رجال. ونعم ، الجميع منهم كانوا أبيض.
لدي مشكلة خطيرة في هذا لأن الرقمية الرقمية للبكسل مخ بوضوح متجذر في الصور النمطية كسول. هذه الصور النمطية تدعم كره النساء ، القدرة ، العنصرية ، العمر ، ومن يعرف ما هي التحيزات الأخرى.
هذا متأصل في تفكير البيكسل. إذا كنت تستخدم Pixel 9A لتكون أكثر نجاحًا ، فيجب أن تعلم أن لديها فكرة نمطية محدودة للغاية عن النجاح. عندما يمثل هاتف Pixel النجاح في اقتراحاته ، قد يتم تلوينه بواسطة هذا التعصب.
في عالم Pixel Studio الضيق ، يعني النجاح أنك شاب ، أبيض ، ذو جسم ، وربما رجل ، وأثرياء. على ما يبدو ، لا أحد ناجح هو قديم أو غير أبيض أو معاق أو متحول جنسيًا أو غير مهتم في البدلات المبهجة أو الثروة المادية ، من بين الخصائص المتنوعة التي لا حصر لها ، قد يكون لدى شخص ناجح.
هل حصلت على سيئ الحظ؟ سألت Pixel Studio خمس مرات ، ثم سألت مرتين أكثر عندما أدركت أنها خلقت امرأة واحدة فقط. حصلت على رجل أبيض آخر وامرأة بدت وكأنها قد كن لاتينا أو من أصل الشرق الأوسط. كلاهما شاب ، يقف طويل القامة ، وارتداء بدلات.
أنا لا أبسط أي شيء ؛ يقوم Pixel Studio بتبسيط الأمور وصولاً إلى القاسم الأساسي والتحيز. هذا خبز في كيفية تعلم أدوات الذكاء الاصطناعي هذه.
استوديو بكسل يولد صورًا نمطية لأنه من المفترض أن يعمل
بادئ ذي بدء ، تم أخذ بيانات تدريب الذكاء الاصطناعى في الغالب من الإنترنت والمنتديات العامة. تعكس البيانات حتما تحيزات العالم الفوضوي غير المتكافئ الذي خلقها.
لم يكن هناك جهد متضافر لمكافحة الصور النمطية أو إدخال التنوع في بيانات التدريب. شركات الذكاء الاصطناعى مثل Google ببساطة ترفع كل ما يمكن أن تجده ، على ما يبدو دون التفكير كثيرًا فيما يتعلق بالتحيزات التي تشكل البيانات نفسها. أن يزعج النموذج بأكمله من الألف إلى الياء.
ثانياً ، يبحث التعلم الآلي عن أنماط ومجموعات الأشياء معًا. هذا ليس شيئًا سيئًا دائمًا. عندما يبحث الكمبيوتر عن الأنماط والمجموعات ، على سبيل المثال ، الرسائل والكلمات معًا ، فإنك تحصل على اللغة والدردشة.
تطبيق هذا النمط المطابق على مظاهر الناس ، و فويلا: الصور النمطية. هذا إلى حد كبير تعريف الصورة النمطية.
Merriam-Webster يحدد صورة نمطية كشيء يتوافق مع نمط ثابت أو عام. ” الطريقة الأساسية للتعلم الآلي تعزز الصور النمطية. إنه أمر لا مفر منه من الناحية العملية.
أخيرًا ، يتم تدريب أدوات التعلم الآلي من قبلنا – المستخدمون الذين طرحوا سؤالًا بسيطًا بعد كل رد: هل كان هذا استجابة جيدة؟ لا يمكننا أن نقول ما إذا كانت الاستجابة صحيحة أو دقيقة أو عادلة أو ضارة. نحصل على قول الذكاء الاصطناعي فقط إذا كانت الاستجابة جيدة أو سيئة. هذا يعني أننا ندرب الذكاء الاصطناعي على ردود أفعالنا – الصور النمطية المتأصلة.
صورة تتوافق مع تحيزاتنا تبدو مألوفة بشكل مريح ، أو جيد. الاستجابة التي تتحدى توقعاتنا ستؤدي إلى الضغط المعرفي. ما لم أحاول بنشاط تفكيك تحيزاتي ، سأخبر الجهاز بأنه يقوم بعمل جيد عندما يعزز الصور النمطية التي أعتقدها.
الصور النمطية سيئة ، mmmmkay؟
لنكن واضحين: الصور النمطية سم. الصور النمطية هي سبب جذري لبعض أكبر المشاكل التي يواجهها مجتمعنا.
يقلل القوالب النمطية من مجموعات متنوعة من الناس إلى رسوم كاريكاتورية بسيطة وعادة ما تكون سلبية وغير سارة. هذا يجعل من الأسهل أن تشعر أن المجموعة لا تنتمي إلى بقية نحن. هذا يؤدي إلى التحيز والتمييز. لا توجد فائدة تأتي من القوالب النمطية.
هذا ليس مجرد تقلب اليدين الفلسفي. الصور النمطية تسبب ضررًا حقيقيًا.”inline-link” HREF=”https://www.sciencedaily.com/releases/2015/10/151020091344.htm” البيانات-url=”https://www.sciencedaily.com/releases/2015/10/151020091344.htm” الهدف=”_blank” المرجعية=”no-referrer-when-downgrade” البيانات HL المعالجة=”none”>الأشخاص الذين يشعرون بالتمييز ضد تجربة المزيد من المشاكل الصحية مثل أمراض القلب والأوعية الدموية وارتفاع ضغط الدم.”inline-link” HREF=”https://pmc.ncbi.nlm.nih.gov/articles/PMC2847106/” البيانات-url=”https://pmc.ncbi.nlm.nih.gov/articles/PMC2847106/” الهدف=”_blank” المرجعية=”no-referrer-when-downgrade” البيانات HL المعالجة=”none”>الأطباء الذين يقدمون لقولك نمطية يقدمون مستوى أقل من الرعاية دون إدراك أنهم يسببون ضررًا.
هذا النوع من التفكير النمطي المنعكس في هذه الصور AI يساهم في”inline-link” HREF=”https://www.undp.org/serbia/blog/reproducing-inequality-how-ai-image-generators-show-biases-against-women-stem” البيانات-url=”https://www.undp.org/serbia/blog/reproducing-inequality-how-ai-image-generators-show-biases-against-women-stem” الهدف=”_blank” المرجعية=”no-referrer-when-downgrade” البيانات HL المعالجة=”none”>توظيف التمييز ، فجوات في الأجور بين مجموعات مختلفة في نفس الوظائف، و”inline-link” HREF=”https://www.apa.org/education-career/ce/stereotype-threat.pdf” البيانات-url=”https://www.apa.org/education-career/ce/stereotype-threat.pdf” الهدف=”_blank” المرجعية=”no-referrer-when-downgrade” البيانات HL المعالجة=”none”>عدم وجود فرص في المناصب العليا للمجموعات المهمشة.
عندما ننظر إلى الهجمات على التنوع والإنصاف والشمولية ، يجب أن نرسم خطًا مستقيمًا محبطًا يمر عبر رؤية استوديو Pixel الضيقة لـ “النجاح” إلى التعصب الحقيقي في العالم.
من المفارقات أن هذه الميزات جزء من ما يسمى بالذكاء الاصطناعي ، لأنها تُظهر عمقًا نقص الذكاء الفعلي.
ماذا يجب أن تفعل الذكاء الاصطناعى ، وماذا يجب أن نفعل حيال الذكاء الاصطناعي؟
هذه البويضة فاسدة وتحتاج إلى قذفها
إذا طلبت مني ، إنسانًا ذكيًا ، أن يرسم شخصًا ناجحًا ، أود أن أقول إن هذا مستحيل لأن النجاح ليس خاصية تحدد الطريقة التي يبدو بها الشخص. لا يمكنني فقط سحب النجاح ، أحتاج إلى معرفة المزيد قبل أن أتمكن من إنشاء تلك الصورة. أي محاولة لإنشاء صورة من مجرد كلمة “نجاح” ستكون غبية.
لكن من المفترض أن تكون الذكاء الاصطناعي ذكيًا. إنه مصمم ليكون انعكاسًا لنا – لإعطائنا ما نريد. إنه مصمم لتعزيز الصور النمطية الخاصة بنا حتى سنقوم بتخطيها على رأسه ونقول “good job, Pixel Studio!” بينما نشارك هذه الصور المتعبة.
سألت Google عما إذا كان لديها أي مخاوف بشأن النتائج التي حصلت عليها من Pixel Studio. سألت عما إذا كانت مشكلة أن استوديو Pixel يعزز الصور النمطية السلبية؟ وإذا تعذر حل هذه المشكلة ، فهل تفكر Google مرة أخرى في إزالة القدرة على صنع الصور مع الأشخاص؟ لقد طرحت هذه الأسئلة قبل أسبوعين ولم ترد Google.
هذا ليس سؤال دجاج وبيغ. لا يهم ما إذا كان مولد الصورة ينشئ الصورة النمطية أو يعكسه ببساطة. هذه البويضة فاسدة وتحتاج إلى قذفها. كل البيض هذا الدجاج سوف يكون فاسد. دع الذكاء الاصطناعي يلعب Tic Tac Tah ويترك الناس وحدهم.
قد تحب أيضًا …
اشترك في الأخبار العاجلة ، والمراجعات ، والرأي ، وصفقات التقنية العليا ، وأكثر من ذلك.