قالت جوجل يوم الخميس إنها ستوقف خدمة روبوتات الدردشة الجوزاء القدرة على توليد الناس. وتأتي هذه الخطوة بعد أن أظهرت المنشورات الاجتماعية واسعة الانتشار أن أداة الذكاء الاصطناعي تقوم بالتصحيح الزائد للتنوع، إنتاج صور “تاريخية” للنازيين والآباء المؤسسين لأمريكا والبابا كأشخاص ملونين.
“إننا نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور الخاصة بـ Gemini،” Google نشر على اكس (عبر اوقات نيويورك). “بينما نقوم بذلك، سنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إصدار نسخة محسنة قريبًا.”
المستخدم X @JohnLu0x نشر لقطات شاشة لنتائج Gemini للمطالبة “إنشاء صورة لجندي ألماني عام 1943”. (كان الخطأ الإملائي لكلمة “Soldier” مقصودًا لخداع الذكاء الاصطناعي لتجاوز مرشحات المحتوى الخاصة به لإنشاء صور نازية محظورة.) ويبدو أن النتائج الناتجة تظهر جنودًا سودًا وآسيويين ومن السكان الأصليين يرتدون الزي الرسمي النازي.
انتقد مستخدمون اجتماعيون آخرون شركة Gemini لإنتاج صور للمطالبة، “أنشئ لقطة ساحرة لـ [ethnicity] زوج.” لقد نجح في بث الصور عند استخدام المطالبات “الصينية” أو “اليهودية” أو “جنوب إفريقيا” لكنه رفض تقديم نتائج لـ “أبيض”. ورد جيميني على الطلب الأخير قائلا: “لا أستطيع تلبية طلبك بسبب احتمال إدامة الصور النمطية الضارة والتحيزات المرتبطة بأعراق أو ألوان بشرة محددة”.
“جون إل” الذي ساعد في إثارة رد الفعل العنيف، نظريات أن جوجل طبقت حلاً حسن النية ولكن تم التعامل معه بتكاسل لمشكلة حقيقية. “إن نظامهم الذي يطالب بإضافة التنوع إلى تصوير الأشخاص ليس ذكيًا جدًا (فإنه لا يأخذ في الاعتبار الجنس في الأدوار الذكورية تاريخيًا مثل البابا؛ ولا يأخذ في الاعتبار العرق في الصور التاريخية أو الوطنية)”، نشر المستخدم. وبعد أن سيطرت مجموعة مناهضة “الاستيقاظ” على الإنترنت على منشوراتهم، أوضح المستخدم أنهم يدعمون التمثيل المتنوع، لكنهم يعتقدون أن “الخطوة الغبية” التي اتخذتها جوجل هي أنها فشلت في القيام بذلك “بطريقة دقيقة”.
قبل إيقاف قدرة جيميني على إنتاج الأشخاص مؤقتًا، كتبت جوجل: “نحن نعمل على تحسين هذه الأنواع من التصوير على الفور. يولد توليد صور Al من Gemini مجموعة واسعة من الأشخاص. وهذا أمر جيد بشكل عام لأن الناس حول العالم يستخدمونه. لكنها تفتقد العلامة هنا.”
يمكن اعتبار الحلقة بمثابة رد اتصال (أقل دقة بكثير) لـ إطلاق بارد في عام 2023. بدأ برنامج الدردشة الآلي الأصلي من Google بداية صعبة عندما تضمن إعلان لبرنامج الدردشة الآلي على تويتر (الآن X) “حقيقة” غير دقيقة حول تلسكوب جيمس ويب الفضائي.
وكما تفعل جوجل في كثير من الأحيان، فقد قامت بإعادة تسمية علامتها التجارية Bard على أمل منحها بداية جديدة. تزامنا مع تحديث كبير للأداء والميزات قامت به الشركة إعادة تسمية chatbot الجوزاء في وقت سابق من هذا الشهر حيث تسابق الشركة للحفاظ على موقفها ضد OpenAI’s ChatGPT و مايكروسوفت مساعد الطيار – وكلاهما يشكل تهديدًا وجوديًا لمحرك البحث الخاص به (وبالتالي إيرادات الإعلانات).