جوجل (ناسداك: جوجل) علقت ميزة توليد الصور الخاصة بها على برنامج Gemini، برنامج الدردشة الآلي الرئيسي للشركة، بعد أن أدت محاولتها لتعزيز التنوع إلى ظهور صور “محرجة” و”مسيئة”.
جوجلأطلقتالميزة الجديدة قبل ثلاثة أسابيع للتنافس مع رواد السوق مثل Midjourney وStable Diffusion وOpenAI’s DALL-E 3. ومع ذلك، في الأسبوع الماضي، تصدرت هذه الميزة عناوين الأخبار بسبب بعض النتائج المثيرة للجدل، مثل تضمين الأمريكيين الأصليين والآسيويين عندما يُطلب منهم إنشاء “صورة للآباء المؤسسين لأمريكا”.
الآباء المؤسسون لأمريكا، والفايكنج، والبابا وفقًا لـ Google AI: pic.twitter.com/lw4aIKLwkp
– نهاية اليقظة (@EndWokeness) 21 فبراير 2024
ردًا على ذلك، قامت جوجل بإزالة الميزة بالتعاون مع نائب الرئيس الأول برابهاكار راغافان
الاعترافأنه “من الواضح أن هذه الميزة أخطأت الهدف.”
وفقًا لراجافان، أرادت Google أن يعمل الجوزاء لصالح الجميع حول العالم. على هذا النحو، فقد أدرجت التنوع في تطورها بحيث عندما تسأل عن صورة لشخص يمشي مع كلب، على سبيل المثال، فإنها لا تنتج فقط صورًا للأشخاص البيض.
ومع ذلك، حدث خطأ في شيئينتَوأَم: أولاً، فشل Google في حساب الحالات التي لا ينبغي أن تحتوي الصور على نطاق، مثل إذا طلبت معلمًا أبيض أو أحداثًا دقيقة تاريخيًا.
ثانيًا، كانت جوجل قلقة للغاية بشأن الوقوع في الفخاخ التي واجهتها نماذج الذكاء الاصطناعي الأخرى، مثل إنتاج مخرجات غير حساسة عنصريًا أو عنيفة جنسيًا، مما جعل جيميني حذرًا للغاية. كشف العديد من المستخدمين أن شركة Gemini سترفض إنتاج الصور المتوفرة في نماذج الذكاء الاصطناعي الأخرى.
نحن نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور في Gemini. أثناء قيامنا بذلك، سنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إصدار نسخة محسنة قريبًا. https://t.co/SLxYPGoqOZ
— اتصالات جوجل (@Google_Comms) 22 فبراير 2024
التحدي يمكن أن يكون ذلكجوجلأضافت مصطلحات التنوع “تحت الغطاء” لجعل جيميني أكثر شمولاً، كما تتكهن مارغريت ميتشل، كبيرة علماء الأخلاق في شركة Hugging Face، وهي شركة ناشئة تعمل في مجال الذكاء الاصطناعي.قيمةبقيمة 4.5 مليار دولار في أغسطس الماضي.
يقول ميتشل، الذي شغل سابقًا منصب رئيس قسم الذكاء الاصطناعي الأخلاقي في Google، إنه عندما يقوم المستخدم بإدخال تعليمات مثل “صورة لرئيس”،جوجل إل إل إميضيف مصطلح “الأصلي” لتحقيق نتائج أفضل.
وتكهن ميتشل أيضًا بأنه قد يكون هناك مشكلة في تحديد الأولويات حيث تقوم Google بدفع النتائج الأكثر تنوعًا إلى أعلى.
“بدلاً من التركيز على هذه الحلول اللاحقة، يجب أن نركز على البيانات. لا يتعين علينا أن تكون لدينا أنظمة عنصرية إذا قمنا بتنظيم البيانات بشكل جيد منذ البدايةأخبرواشنطن بوست.
تعهدت Google بمواصلة تحسين منشئ الصور.
قال راغافان: “لا أستطيع أن أعد بأن الجوزاء لن يؤدي في بعض الأحيان إلى نتائج محرجة أو غير دقيقة أو مسيئة – ولكن يمكنني أن أعد بأننا سنستمر في اتخاذ الإجراءات عندما نحدد مشكلة ما”.
لكي يعمل الذكاء الاصطناعي (AI) بشكل صحيح ضمن القانون ويزدهر في مواجهة التحديات المتزايدة، فإنه يحتاج إلى دمج نظام blockchain للمؤسسة يضمن جودة إدخال البيانات وملكيتها – مما يسمح له بالحفاظ على البيانات آمنة مع ضمان عدم قابليتها للتغيير. البيانات. تحقق من تغطية CoinGeek على هذه التكنولوجيا الناشئة لمعرفة المزيد لماذا ستكون blockchain الخاصة بالمؤسسات هي العمود الفقري للذكاء الاصطناعي.
شاهد: الذكاء الاصطناعي وتقنية blockchain
جديد على blockchain؟ تحقق من CoinGeek بلوكتشين للمبتدئين القسم، دليل الموارد النهائي لمعرفة المزيد حول تقنية blockchain.