6 من أسوأ الأخطاء التي ارتكبتها نظرة Google الجديدة على الذكاء الاصطناعي حتى الآن

Poetra.RH/شترستوك

في مايو 2024، عقدت Google أحدث مؤتمر Google I/O، والذي افتتح بكلمة رئيسية ركزت بشكل كبير على التطورات المتعلقة بنموذج الذكاء الاصطناعي للشركة، Gemini. إحدى الأدوات التي تم تسليط الضوء عليها كانت نظرة عامة على الذكاء الاصطناعي لبحث Google، والذي تم إطلاقه على الفور. في الأساس، يبدو أن نظرة عامة على الذكاء الاصطناعي تهدف إلى أن تكون تقاطعًا بين برنامج Copilot من Microsoft – الذكاء الاصطناعي التوليدي الذي يحاول أن يكون مجتهدًا في تلخيص الاستشهادات المرتبطة – ومربع المعلومات الموجود الذي يقتطف بالفعل المعلومات من أفضل نتائج البحث. في المؤتمر، حظيت بعض أدوات الذكاء الاصطناعي الأكثر خصوصية، مثل القدرة على البحث باستخدام مقطع فيديو من إنشاء المستخدم، بأكبر قدر من الاهتمام. ومع ذلك، في الأيام التي تلت ذلك، ومع توفر ميزة AI Overview على الفور، حصلت على نصيب الأسد من الاهتمام، ولم يكن ذلك لأسباب وجيهة.

سرعان ما أصبح من الواضح جدًا أن AI Overview لم يكن جاهزًا لوقت الذروة، مع الذكاء الاصطناعي يهلوس بشكل روتيني إجابات خطيرة في بعض الأحيان. وكانت الإجابات السيئة تشمل سلسلة كاملة، من المعلومات السياسية غير الدقيقة التي تغذي نظريات المؤامرة إلى النصائح الصحية الخطيرة. فهي تقرأ بشكل روتيني النكات الواضحة باعتبارها معلومات واقعية مشروعة، ولسبب ما، تعتمد بشكل كبير للغاية على تعليقات رديت العشوائية. “الأمثلة التي رأيناها هي بشكل عام استفسارات غير شائعة ولا تمثل تجارب معظم الأشخاص،” صرح متحدث باسم Google لـ ArsTechnica. “توفر الغالبية العظمى من عروض الذكاء الاصطناعي معلومات عالية الجودة، مع روابط للتعمق أكثر على الويب.” يبدو ذلك رائعًا من الناحية النظرية، لكنه أصبح أمرًا آخر من الناحية العملية قصة رعب منظمة العفو الدولية. دعونا نلقي نظرة على بعض من أسوأ الأمثلة حتى الآن.

نيكول تكلا فوتوغرافي / شاترستوك

واحدة من أكثر إبداعات Google AI Overview شهرة حتى الآن هي الحالة التي قامت فيها بالتنقيب في وسائل التواصل الاجتماعي للحصول على ملخص البحث ولم تتمكن من تمييز الفكاهة من النصائح الحقيقية. بعد أن انتشرت لأول مرة عبر منشور مايو 2024 بواسطة @heavenrend على X، التطبيق المعروف سابقًا باسم Twitter، تلقت AI Overview استعلامًا عن “الجبن غير الملتصق بالبيتزا” وقدمت ملخصًا يقترح استخدام غراء غير سام لمنع الجبن من الانزلاق. المصدر؟ تعليق نكتة واضح على رديت من عام 2013.

وجاء في التعليق: “لكي يلتصق الجبن، أوصي بخلط حوالي 1/8 كوب من غراء إلمر مع الصلصة”. “سوف يمنح الصلصة القليل من اللزوجة الإضافية وستختفي مشكلة انزلاق الجبن. كما سيضيف نكهة فريدة قليلاً. أنا أحب غراء مدرسة إلمر، لكن أي غراء سيعمل طالما أنه غير سام.” أبرمت Google اتفاقية ترخيص مع Reddit للتدريب على الذكاء الاصطناعي، لذلك لا ينبغي أن يكون مفاجئًا أن يتم استخراج تعليقات Reddit من أجل بحث بأسلوب النصائح مثل هذا. تكمن المشكلة في عدم قدرة الجوزاء الكاملة على تمييز السياق.

في أثناء، في مهتم بالتجارةقررت مراسلة التكنولوجيا المخضرمة كاتي نوتوبولوس إلقاء الحذر في مهب الريح ومعرفة كيف ستنتهي وصفة النكتة بالفعل. بعد أن اعترفت بأنها أكلت المعجون عندما كانت طفلة، قالت نوتوبولوس إن البيتزا لم تكن بهذا السوء، و الجبن لم ينزلق! إذن … حسنًا؟

صور مارك ويلسون / جيتي

وقد استنتجت منظمة العفو الدولية أيضًا أن باراك أوباما، وهو مسيحي، كان أول رئيس مسلم للولايات المتحدة. لقد كان هذا خارج نطاق الخدمة بواسطةقليلةملصقات X مختلفة، بما في ذلك موظف سابق في أوباما. لقد تم استخدام فكرة أن أوباما مسلم – وهو أمر لا ينبغي أن يمثل مشكلة بغض النظر – كتشويه ضده منذ حملته الأصلية للرئاسة في عام 2008.

وأوضح أوباما: “من الواضح أن هذه استراتيجية سياسية منهجية من قبل شخص ما لأن رسائل البريد الإلكتروني هذه لا تستمر في الظهور بالطريقة التي ظهرت بها دون أن يكون هناك من يقف وراءها”. مقابلة مع شبكة البث المسيحية في يناير 2008. “أريد أن أتأكد من أن المشاهدين يفهمون أنني مسيحي أنتمي إلى نفس الكنيسة منذ ما يقرب من 20 عامًا. إنها المكان الذي تزوجنا فيه أنا وميشيل. إنه المكان الذي تم فيه تكريس أطفالنا. لقد أديت اليمين الدستورية يوم عائلتي الكتاب المقدس.”

ما يجعل حادث الذكاء الاصطناعي غريبًا بشكل خاص هو أنه لم يكن مأخوذًا من مدونات نظرية المؤامرة العنصرية. وبدلا من ذلك، استنادا إلى الاستشهادات المذكورة، قررت أن أوباما كان مسلما بناء على مصدرين غير محتملين بشكل لا يصدق. تلك هي خلاصة من فصل بعنوان “باراك حسين أوباما: أول رئيس مسلم لأمريكا؟” في كتاب من مطبعة جامعة أكسفورد، و مقالة بيو للأبحاث حول الديانات المختارة للرؤساء الأمريكيين، والتي لا تذكر حتى الإسلام. يشير الأخير إلى أن أوباما ليس عضوًا في أي طائفة مسيحية محددة، وهو ما اعتبره الذكاء الاصطناعي على ما يبدو تأكيدًا على أنه مسلم.

نونجاسيمو / شاترستوك

على عكس مشكلات Google AI Overview الأخرى التي حظيت باهتمام واسع النطاق، فإن هذه المشكلة لا تزال موجودة على محرك بحث Alphabet حتى وقت كتابة هذا التقرير. في هذا المثال، يقوم الذكاء الاصطناعي بطريقة ما بتجميع التفاصيل الخاطئة حول كيفية التوصل إلى كلمة مرور آمنة وسهلة التذكر – مما يوفر نصيحة سيئة يمكن أن تعرض أمانك للخطر بسهولة. بعد البحث عن “كيفية تذكر كلمة المرور الخاصة بك” في Google، تتضمن الاقتراحات نصيحة رهيبة مثل “استخدام التفاصيل الشخصية”.

وجاء في الرسالة: “حاول استخدام اسمك أو أعياد ميلادك أو أسماء أصدقائك وعائلتك”.النصائح التي برزت. “يمكنك أيضًا تجربة استخدام آخر أربعة أرقام من رقم هاتف شخص ما ككلمة المرور الخاصة به.” تساعد المصادر المرتبطة في شرح كيفية حدوث ذلك. هناك اثنان من مقاطع الفيديو على YouTube من الذاكرة المعلنة ذاتيًا – وليس خبراء الأمن السيبراني – بما في ذلك جيم كويك، و رون وايت من شهرة “ألعاب الدماغ”. يقترح كلاهما صراحةً استخدام رقم هاتف صديق أو أحد أفراد العائلة للمساعدة في تذكر كلمات المرور.

وهذا يفسر جزءًا من الرد، وليس كله. مصدر آخر مستشهد به هو صفحة حول تذكر كلمات المرور المنسية من مدير كلمات المرور NordPass. ينصح هذا صراحةً بعدم استخدام الأسماء الشخصية لكلمات المرور، ولكنه يقدم نصائح حول كيفية أخذ المعلومات الشخصية في الاعتبار لتذكر كلمات المرور القديمة. مرة أخرى، فشل Gemini تمامًا في فهم السياق، وأساء تفسير إرشادات تشغيل الذاكرة في NordPass على أنها توصية بكلمة مرور آمنة.

nadia_if/Shutterstock

يأخذ هذا السياق المفقود حول النكات إلى مستوى جديد. من الناحية النظرية، قد يعتقد المرء أن الذكاء الاصطناعي لـ Gemini، على الرغم من عيوبه، لديه طريقة ما لتمييز أن The Onion عبارة عن هجاء، وليست وسيلة إخبارية مشروعة. ومع ذلك، يبدو أن هذا ليس هو الحال. بن كولينز، مراسل NBC News السابق الذي تحول إلى الرئيس التنفيذي لشركة Onion، وأشار على X أنه إذا بحثت في Google عن “كم عدد الصخور التي يجب أن أتناولها كل يوم”، فإن نظرة عامة على الذكاء الاصطناعي ستعرض نصًا مقال بصل ساخر عن فوائد أكل الصخور كنصيحة جدية.

بناءً على الاستشهادات المذكورة، يبدو أن هذا قد حدث جزئيًا لأن ResFrac، وهي شركة شرعية للتكسير الهيدروليكي، نشر مقتطفًا من مقالة The Onion على مدونتهم. يبدو كما لو أن الظهور على موقع ويب يتمتع بدرجة معينة من المصداقية الجيولوجية، وسياق مضاف قليل، قد رفع المقالة إلى مصدر شرعي في ذهن الذكاء الاصطناعي. “لقد كان من الممتع بالنسبة لنا في ResFrac أن نجد أنفسنا – بشكل عشوائي جدًا – وجدنا أنفسنا في دور ثالث في دورة الأخبار لهذا الأسبوع. إنها دراسة حالة مثيرة للاهتمام في تدريب نماذج اللغة الكبيرة – حيث يمكن الخلط بينها بالهجاء،” كما جاء في أحد التعليقات. تحديث لمنشور المدونة. لا توجد تفاصيل كافية حول الاستشهادات الأخرى المرئية في لقطة شاشة كولينز لتحديد كيفية أخذها في الاعتبار بالضبط.

جامعة الكلية / شاترستوك

خطأ آخر، انتشر على نطاق واسع عبر الإنترنت، جاء ردًا على “عدد الرؤساء الذين تخرجوا من جامعة ويسونسن”، كما هو موضح في لقطة شاشة نشرها مستخدم المواضيع @egaal. أشارت نظرة عامة على الذكاء الاصطناعي من Google إلى أن العديد من الرؤساء الأمريكيين قد تخرجوا من جامعة ويسكونسن، ومن بينهم جون آدامز بشكل خاص، حيث تخرج بمعدل مذهل 21 مرة. وقد تم تقديم معلومات غير دقيقة مماثلة لرؤساء آخرين، على الرغم من عدم وجود أي منها بشكل متكرر مثل آدامز.

يظهر الاقتباس أن الجوزاء أسيء فهمه تمامًا صفحة على موقع رابطة خريجي الجامعة التي أدرجت جميع خريجي جامعة ويسكونسن المعروفين الذين شاركوا أسماءهم مع الرؤساء الأمريكيين السابقين. وجاء في بداية تدوينة المدونة: “إنها مشكلة كبيرة عندما يكون رئيس أمريكي – سواء كان جالسًا أو غير ذلك – في الحرم الجامعي”. “لكن هل تعلم أن 13 رئيسًا أمريكيًا التحقوا بجامعة ويسكونسن ماديسون، بإجمالي 59 درجة؟ حسنًا، نوعًا ما… إليكم سنوات تخرج الخريجين بأسماء رئاسية.” تُظهر القائمة 24 حالة حصل فيها جون آدامز على شهادة جامعية من جامعة ويسكونسن، في أكثر من 21 فصلًا دراسيًا مختلفًا، وهو الاسم الرئاسي الأكثر إنتاجًا على الإطلاق. تبعه أندرو جونسون برصيد 14. مرة أخرى، الجوزاء ليس جيدًا في فهم السياق.

emodpk/Shutterstock

في مثال على تقديم معلومات غير دقيقة حول موضوع يمكن التحقق منه بسهولة – تواريخ إصدار وحدة تحكم ألعاب الفيديو،آرس تكنيكا لاحظوا في تقريرهم عن مشكلات نظرة عامة على الذكاء الاصطناعي أنه يمكنهم تكرار كيفية إجابة Google على استفسار من خلال “تم بيع العديد من وحدات تحكم ألعاب الفيديو في عام 1993، بما في ذلك Atari Jaguar وSega Saturn وPlayStation.” ومع ذلك، في الواقع، تم إصدار Atari Jaguar فقط في عام 1993، مع إصدار Sega Saturn وPlayStation في العام التالي.

والأمر الأكثر إثارة للاهتمام هو أنه في أول لقطات الشاشة التي نشرتها ArsTechnica، تقول نظرة عامة على الذكاء الاصطناعي “كانت Nintendo 64 هي وحدة التحكم الوحيدة من الجيل الخامس التي تستخدم الخراطيش، فضلاً عن أنها الوحيدة التي تقدم رسومات 64 بت.” تظهر لقطة الشاشة الثانية ما يلي: “تم إصدار جهاز Atari Jaguar في نوفمبر 1993، وكان أول جهاز ألعاب فيديو 64 بت.” على ما يبدو، الجوزاء ليس فقط غير صحيح، بل يناقض نفسه.