وفي مواجهة اتهامات التحيز، اضطرت جوجل هذا الأسبوع إلى إيقاف جزء توليد الصور من جيميني، نموذج الذكاء الاصطناعي التوليدي الخاص بها مؤقتًا. ويأتي التعليق المؤقت بعد رد فعل عنيف من المستخدمين الذين انتقدوه بدعوى التركيز بشكل كبير على التنوع العرقي، وأحيانًا على حساب الدقة. قبل قيام Google بإيقاف خدماتها مؤقتًا، تم اكتشاف أن شركة Gemini تنتج صورًا متنوعة عنصريًا النازيون في حقبة الحرب العالمية الثانية, محاربي الفايكنجوالآباء المؤسسون للولايات المتحدة، وغيرهم من الشخصيات البيضاء تاريخيًا.
أحب التزام Google المستمر بالتنوع هنا pic.twitter.com/kexIJImB2D
– باجلياتشي المكروه 🌝 (Slatzism) 21 فبراير 2024
لقد طلبت منه إنشاء صور لملك إنجلترا في ذلك اليوم 🤣 pic.twitter.com/NEOqDELwmz
– ألكسندر ليشمان 🇺🇸 (@ ليشمان) 20 فبراير 2024
وفي بيان صدر يوم الأربعاء، قالت جوجل إن قدرات توليد الصور في جيميني “في عداد المفقودين العلامةوقالت إنها “تعمل على تحسين هذه الأنواع من التصوير على الفور”. جوجل ثم الوصول المعلق إلى أدوات توليد الصور تمامًا صباح الخميس، وقالت إنها ستصدر نسخة جديدة من النموذج قريبًا. رفض الجوزاء إنشاء أي صور عندما PopSci واختبرت الخدمة صباح يوم الخميس، وبدلاً من ذلك قالت: “نحن نعمل على تحسين قدرة Gemini على إنشاء صور للأشخاص. نتوقع عودة هذه الميزة قريبًا وسنخبرك في تحديثات الإصدار عند حدوثها. حتى كتابة هذه السطور، لا يزال برج الجوزاء متراجعًا. موجهة جوجل PopSci ل بيانها الأخير عندما وصلت للتعليق.
صورة أجيال الجوزاء تثير الشكاوى
بدأت Google رسميًا في طرح أدوات إنشاء الصور الخاصة بها في Gemini في وقت سابق من هذا الشهر، ولكن احتدم الجدل حول صورها غير البيضاء هذا الأسبوع. بدأ المستخدمون على X، تويتر سابقًا، بمشاركة لقطات شاشة لأمثلة لمواقع Gemini وبحسب ما ورد تم إنشاء صور لأشخاص غير بيض عندما يُطلب منك على وجه التحديد تصوير شخص أبيض. وفي حالات أخرى الجوزاء وبحسب ما ورد يبدو أنه يبالغ في تمثيل الأشخاص غير البيض عندما يُطلب منك إنشاء صور لمجموعات تاريخية كانت في الغالب من البيض، كما يزعم النقاد.
وسرعان ما جذبت المنشورات انتباه دوائر وسائل التواصل الاجتماعي اليمينية التي اعترضت على ما نشرته يُنظر إليها على أنها مبادرات شديدة التنوع والمساواة في السياسة والأعمال الأمريكية. وفي دوائر أكثر تطرفًا، استخدمت بعض الحسابات الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لإثارة نظرية مؤامرة لا أساس لها تتهم جوجل بمحاولة استبعاد الأشخاص البيض من نتائج صور الجوزاء عمدًا.
كيف استجابت جوجل لجدل الجوزاء؟
على الرغم من أن الجدل الدائر حول الجوزاء يبدو أنه ينبع من النقاد الذين يقولون إن جوجل لا تضعه كافٍ مع التركيز على الأفراد البيض، قال الخبراء الذين يدرسون الذكاء الاصطناعي منذ فترة طويلة إن نماذج الذكاء الاصطناعي تفعل العكس تمامًا وتمثل المجموعات غير البيضاء تمثيلاً ناقصًا بشكل منتظم. وفي فترة زمنية قصيرة نسبيا، جمعت أنظمة الذكاء الاصطناعي المدربة على مجموعات البيانات المتحيزة ثقافيا تاريخا من تكرار وتعزيز الصور النمطية حول الأقليات العرقية. يقول الباحثون في مجال السلامة إن هذا هو السبب وراء حاجة شركات التكنولوجيا التي تبني نماذج الذكاء الاصطناعي إلى تصفية منتجاتها وضبطها بشكل مسؤول. غالبًا ما تكرر مولدات الصور ونماذج الذكاء الاصطناعي على نطاق أوسع أو تعزز البيانات المتحيزة ثقافيًا الممتصة من بيانات التدريب الخاصة بها في بيئة ديناميكية يشير إليها الباحثون أحيانًا باسم “القمامة في، القمامة خارج.“
تم تنفيذ نسخة من هذا بعد طرح منشئ الصور DALL-E الخاص بـ OpenAI في عام 2022 حيث انتقد باحثو الذكاء الاصطناعي الشركة بزعم أنها تعزيز القوالب النمطية الجنسانية والعنصرية القديمة. في ذلك الوقت، على سبيل المثال، كان المستخدمون الذين يطلبون من DALL-E إنتاج صور “لبناء” أو “مضيفة طيران” ينتجون نتائج تصور الرجال والنساء حصريًا على التوالي. منذ ذلك الحين، قامت OpenAI بإجراء تعديلات على نماذجها لمحاولة معالجة هذه المشكلات.
[متعلقب:[Related:كيف يعتقد هذا المبرمج والشاعر أنه يجب علينا معالجة الذكاء الاصطناعي المتحيز عنصريًا؟ ]
من المحتمل أن Google كانت تحاول موازنة بعض التحيزات مع Gemini ولكنها قامت بتصحيح مبالغ فيه خلال تلك العملية. في إفادة وقالت جوجل، التي صدرت يوم الأربعاء، إن برنامج Gemini يولد مجموعة واسعة من الأشخاص، وهو ما قالت إنه “أمر جيد بشكل عام لأن الناس في جميع أنحاء العالم يستخدمونه”. جوجل لم تستجب ل PopSci طلبات التعليق التي تطلب معلومات حول سبب قيام Gemini بإنتاج نتائج الصور المعنية.
ليس من الواضح على الفور سبب قيام جيميني بإنتاج الصور التي التقطها، لكن بعض المعلقين لديهم نظريات. في مقابلة مع منهاج قال كيسي نيوتن يوم الخميس، الرئيس السابق لقسم الثقة والسلامة في OpenAI، ديف ويلنر، إن الموازنة بين كيفية إنشاء نماذج الذكاء الاصطناعي بشكل مسؤول للمحتوى أمر معقد وأن نهج Google “لم يكن أنيقًا تمامًا”. ويشتبه ويلنر في أن هذه الأخطاء يمكن أن تُعزى، جزئيًا على الأقل، إلى نقص الموارد المقدمة لمهندسي Google للتعامل مع المنطقة الدقيقة بشكل صحيح.
[متعلقب:[Related:يدفعنا Sora من OpenAI خطوة عملاقة نحو هاوية الذكاء الاصطناعي ]
أوضح جاك كراوزيك، المدير الأول للمنتج في جيميني، ذلك بشكل أكبر في منشور على X، حيث قال إن تصوير العارضة للأشخاص غير البيض يعكس “قاعدة المستخدمين العالمية” للشركة. ودافع كراوتشيك عن نهج جوجل تجاه التمثيل والتحيز، والذي قال إنه يتماشى مع نهج الشركة مبادئ الذكاء الاصطناعي الأساسيةلكنه قال إن بعض “الأخطاء” قد تحدث فيما يتعلق بالمطالبات التاريخية.
“نحن ندرك أن جيميني تقدم معلومات غير دقيقة في بعض صور توليد الصور التاريخية، ونحن نعمل على إصلاح ذلك على الفور،” كراوزيك قال على حساب مقيد الآن. وأضاف: “السياقات التاريخية لها فروق دقيقة أكثر وسنعمل على ضبطها لاستيعاب ذلك”.
ولم يستجب Krawczyk ولا Google على الفور لانتقادات المستخدمين الذين قالوا إن خيارات التمثيل العنصري تمتد إلى ما هو أبعد من الشخصيات التاريخية البحتة. ومن الجدير بالذكر أن هذه الادعاءات يجب أن تؤخذ بدرجة من الشك. أعرب بعض المستخدمين عن تجارب مختلفة و PopSci لم يتمكن من تكرار النتائج. وفي بعض الحالات، ادعى صحفيون آخرون أن الجوزاء كان كذلك رفض توليد الصور للمطالبات التي تطلب من الذكاء الاصطناعي إنشاء صور للأشخاص السود أو البيض. بمعنى آخر، يبدو أن تجارب المستخدم مع Gemini في الأيام الأخيرة قد تباينت بشكل كبير.
أصدرت Google بيانًا منفصلاً يوم الخميس قالت فيه إنها أوقفت مؤقتًا قدرات توليد الصور في Gemini أثناء عملها على معالجة “عدم الدقة” والتمثيلات الواضحة غير المتناسبة. وقالت الشركة إنها ستعيد إصدار نسخة جديدة من النموذج “قريبًا” لكنها لم تقدم أي تاريخ محدد.
نحن نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور في Gemini. أثناء قيامنا بذلك، سنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إصدار نسخة محسنة قريبًا. https://t.co/SLxYPGoqOZ
— اتصالات جوجل (@Google_Comms) 22 فبراير 2024
على الرغم من أنه لا يزال من غير الواضح ما الذي دفع Gemini إلى إنشاء المحتوى الذي أدى إلى إيقافه مؤقتًا، فمن المحتمل ألا تنتهي نكهة النكسة عبر الإنترنت التي تلقتها Google بالنسبة لصانعي الذكاء الاصطناعي في أي وقت قريب.