“خطير من الناحية الشرعية”: نظرة عامة خاطئة على الذكاء الاصطناعي من Google تثير السخرية والقلق

انضم إلينا في العودة إلى مدينة نيويورك في الخامس من يونيو للتعاون مع القادة التنفيذيين في استكشاف طرق شاملة لتدقيق نماذج الذكاء الاصطناعي فيما يتعلق بالتحيز والأداء والامتثال الأخلاقي عبر المنظمات المتنوعة. اكتشف كيف يمكنك ذلك الحضور هنا.

تم وصفها بعد ذلك بأنها: “لقطة مدعومة بالذكاء الاصطناعي من المعلومات الأساسية التي يجب مراعاتها، مع روابط للتعمق أكثر”، وظهرت بشكل أساسي كفقرة جديدة من النص مباشرة أسفل شريط إدخال بحث Google، فوق القائمة التقليدية للروابط الزرقاء عادةً ما يحصل عليه المستخدم عند البحث في Google.

قيل أن الميزة مدعومة بنماذج الذكاء الاصطناعي الخاصة بالبحث. في ذلك الوقت، كانت خدمة “الاشتراك” وكان على المستخدمين المرور بعدد من الخطوات لتشغيلها.

ولكن منذ 10 أيام في Google مؤتمر الإدخال/الإخراج، وسط أسطول من الإعلانات المتعلقة بالذكاء الاصطناعي، أعلنت الشركة عن إعادة تسمية Search Geneative Experience إلى AI Overviews، وتم تغيير اسمها إلى AI Overviews. تأتي كتجربة افتراضية على بحث Google لجميع المستخدمين، بدءًا من المستخدمين الموجودين في الولايات المتحدة

هناك طرق ل قم بإيقاف تشغيله أو قم بإجراء عمليات بحث Google بدون نظرة عامة على الذكاء الاصطناعي (أي علامة التبويب “الويب” في بحث Google)، ولكن الآن، في هذه الحالة، يتعين على المستخدمين اتخاذ بعض الخطوات الإضافية للقيام بذلك.

لماذا تعتبر نظرة عامة على Google AI مثيرة للجدل؟

منذ أن قامت جوجل بتشغيل AI Overviews كإعداد افتراضي للمستخدمين في الولايات المتحدة، انتقل البعض إلى X والمواقع الاجتماعية الأخرى لنشر النتائج الرهيبة والفظيعة وغير الجيدة التي تظهر في الميزة عند البحث في استعلامات مختلفة.

في بعض الحالات، تختار الميزة المدعومة بالذكاء الاصطناعي عرض معلومات غير صحيحة وخطيرة إلى حد كبير.

حتى المشاهير بما في ذلك الموسيقي ليل ناس إكس انضموا إلى الحشد:

النتائج الأخرى غير ضارة ولكنها لا تزال غير صحيحة وتجعل Google يبدو غبيًا وغير موثوق به:

لقد اكتسبت النتائج ذات الجودة الرديئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي حياة خاصة بها، حتى أنها أصبحت مجرد ميم مع قيام بعض المستخدمين بتحويل الإجابات إلى لقطات شاشة لجعل Google يبدو أسوأ مما يبدو عليه بالفعل في النتائج الحقيقية:

قامت جوجل بتصنيف ميزة نظرة عامة على الذكاء الاصطناعي على أنها “تجريبية”، مع وضع النص التالي في أسفل كل نتيجة: “الذكاء الاصطناعي التوليدي تجريبي”، والربط بـ الصفحة التي تصف الميزة الجديدة بمزيد من التفاصيل.

في تلك الصفحة، كتب Google: “يمكن لنظرات عامة على الذكاء الاصطناعي أن تنهي مهمة البحث من خلال توفير لقطة تم إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على معلومات أساسية وروابط للتعمق بشكل أعمق… ومن خلال تعليقات المستخدمين والمراجعات البشرية، نقوم بتقييم وتحسين جودة نتائجنا و المنتجات بمسؤولية.”

هل ستسحب Google الذكاء الاصطناعي/النظرة العامة؟

لكن بعض المستخدمين لجأوا إلى X (تويتر سابقًا) للاتصال بشركة Google أو التنبؤ بأن عملاق البحث سينتهي به الأمر إلى إزالة ميزة AI Overview، على الأقل مؤقتًا، على غرار المسار الذي اتخذته Google بعد إطلاقها. ميزة توليد الصور بالذكاء الاصطناعي لـ Gemini تم عرضه لإنشاء صور غير دقيقة عنصريًا وتاريخيًا في وقت سابق من هذا العام، مما أثار غضب الليبراليين البارزين في وادي السيليكون والشخصيات المحافظة سياسيًا مثل مارك أندريسن وإيلون ماسك.

في تصريح ل الحافة، قال متحدث باسم Google عن ميزة نظرة عامة على الذكاء الاصطناعي إن المستخدمين كانوا يعرضون أمثلة “بشكل عام، الاستفسارات غير شائعة جدًا، ولا تمثل تجارب معظم الأشخاص.”

فضلاً عن ذلك، الحافة تم كتابة تقرير بذلك: “اتخذت الشركة إجراءات ضد انتهاكات سياساتها… وتستخدم هذه “الأمثلة المعزولة” لمواصلة تحسين المنتج.”

ومع ذلك، وكما لاحظ البعض في X، فإن هذا يبدو كثيرًا مثل إلقاء اللوم على الضحية.

افترض آخرون أن مطوري الذكاء الاصطناعي يمكن أن يتحملوا المسؤولية القانونية عن النتائج الخطيرة مثل النوع الموضح في نظرة عامة على الذكاء الاصطناعي:

الأهم من ذلك، لاحظ صحفيو التكنولوجيا وغيرهم من المستخدمين المتعلمين رقميًا أن Google يبدو أنها تستخدم نماذج الذكاء الاصطناعي الخاصة بها لإنشاء ملخصات للمحتوى الذي قامت بفهرسته في فهرس البحث الخاص بها سابقًا، وهو محتوى لم تنشئه ولكنها مع ذلك تعتمد عليه لتزويد مستخدميها بـ ” معلومات أساسية.”

في النهاية، من الصعب تحديد النسبة المئوية لعمليات البحث التي تعرض هذه المعلومات الخاطئة.

ولكن هناك شيء واحد واضح: يبدو أن نظرة عامة على الذكاء الاصطناعي أكثر عرضة مما كان عليه بحث Google في السابق للمعلومات المضللة من مصادر غير جديرة بالثقة، أو المعلومات المنشورة على أنها مزحة لا يمكن لنماذج الذكاء الاصطناعي الأساسية المسؤولة عن التلخيص فهمها على هذا النحو، وبدلاً من ذلك تتعامل معها على أنها جادة.

الآن، يبقى أن نرى ما إذا كان المستخدمون يتصرفون بالفعل بناءً على المعلومات المقدمة في هذه النتائج، ولكن إذا فعلوا ذلك، فمن الواضح أن هذا غير حكيم ويمكن أن يشكل مخاطر على صحتهم وسلامتهم.

دعونا نأمل أن يكون المستخدمون أذكياء بما يكفي للتحقق من المصادر البديلة. لنفترض أن شركة بحث ناشئة منافسة تعمل بالذكاء الاصطناعي الحيرة، والتي يبدو أنها تواجه مشكلات أقل في عرض المعلومات الصحيحة مقارنة بنظرة عامة على الذكاء الاصطناعي من Google في الوقت الحالي (وهي مفارقة مؤسفة لعملاق البحث ومستخدميه، نظرًا دور Google في التصور الأول لبنية محولات التعلم الآلي وتوضيحها في قلب طفرة الذكاء الاصطناعي / LLM التوليدية الحديثة).