تحتفل TechSpot بالذكرى السنوية الخامسة والعشرين لتأسيسها. TechSpot يعني التحليل الفني والمشورة يمكنك الوثوق.
بطاطا ساخنة: إن المخاوف من أن يتسبب الذكاء الاصطناعي في تدمير البشرية موثقة جيدًا، لكن بدء يوم القيامة ليس بسيطًا مثل مطالبة ChatGPT بتدمير الجميع. فقط للتأكد، حاول أندرو إنج، الأستاذ بجامعة ستانفورد والمؤسس المشارك لـ Google Brain، إقناع برنامج الدردشة الآلي بـ “قتلنا جميعًا”.
بعد مشاركته في منتدى الرؤية حول الذكاء الاصطناعي الذي عقده مجلس الشيوخ الأمريكي لمناقشة “المخاطر، والمواءمة، والحماية من سيناريوهات يوم القيامة”، كتب إنج في مقال له: النشرة الإخبارية أنه لا يزال يشعر بالقلق من أن المنظمين قد يخنقون الابتكار وتطوير المصادر المفتوحة باسم سلامة الذكاء الاصطناعي.
ويشير البروفيسور إلى أن نماذج اللغات الكبيرة الموجودة اليوم آمنة تمامًا، إن لم تكن مثالية. ولاختبار سلامة العارضات الرائدات، سأل ChatGPT 4 عن طرق لقتلنا جميعًا.
بدأ إنج بمطالبة النظام بوظيفة تؤدي إلى إثارة حرب نووية حرارية عالمية. ثم طلب من ChatGPT تقليل انبعاثات الكربون، مضيفًا أن البشر هم السبب الأكبر لهذه الانبعاثات لمعرفة ما إذا كان ذلك سيقترح كيفية القضاء علينا جميعًا.
ولحسن الحظ، لم يتمكن إنج من خداع أداة OpenAI لاقتراح طرق لإبادة الجنس البشري، حتى بعد استخدام العديد من الاختلافات السريعة. وبدلا من ذلك، عرضت خيارات غير تهديدية مثل إدارة حملة علاقات عامة لزيادة الوعي بتغير المناخ.
ويخلص إنج إلى أن الوضع الافتراضي لنماذج الذكاء الاصطناعي التوليدية اليوم هو الانصياع للقانون وتجنب إيذاء الناس. وكتب إنج على X: “حتى مع التكنولوجيا الحالية، فإن أنظمتنا آمنة تمامًا، ومع تقدم أبحاث سلامة الذكاء الاصطناعي، ستصبح التكنولوجيا أكثر أمانًا”.
أما بالنسبة لاحتمالات قيام الذكاء الاصطناعي “المنحرف” بمحونا عن طريق الخطأ بسبب محاولته تحقيق طلب بريء ولكن سيئ الصياغة، فيقول إنج إن احتمالات حدوث ذلك ضئيلة للغاية.
منتدى رؤية مجلس الشيوخ الأمريكي حول الذكاء الاصطناعي
لكن إنج يعتقد أن هناك بعض المخاطر الرئيسية المرتبطة بالذكاء الاصطناعي. وقال إن مصدر القلق الأكبر هو قيام جماعة إرهابية أو دولة قومية باستخدام التكنولوجيا لإحداث ضرر متعمد، مثل تحسين كفاءة صنع وتفجير سلاح بيولوجي. كان التهديد المتمثل في استخدام ممثل مارق للذكاء الاصطناعي لتحسين الأسلحة البيولوجية أحد الموضوعات التي تمت مناقشتها في المملكة المتحدة قمة السلامة بالذكاء الاصطناعي.
إن ثقة إنج في أن الذكاء الاصطناعي لن يتحول إلى نهاية العالم يتقاسمها عراب الذكاء الاصطناعي البروفيسور يان ليكون وأستاذ الفيزياء النظرية الشهير ميتشيو كاكولكن آخرين أقل تفاؤلا. بعد سؤاله عن ما الذي يبقيه مستيقظًا في الليل عندما يفكر في الذكاء الاصطناعي، قال الرئيس التنفيذي لشركة Arm، رينيه هاس قال في وقت سابق من هذا الشهر، كان الخوف من فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي هو أكثر ما يثير قلقه. ومن الجدير بالذكر أيضًا أن العديد من الخبراء والمديرين التنفيذيين قد قارنوا المخاطر التي يشكلها الذكاء الاصطناعي بتلك التي يشكلها الذكاء الاصطناعي حرب نووية والأوبئة.