لماذا يرى خبراء الذكاء الاصطناعي أن الآلات قد تُنهي وجود البشر؟

مطلع هذا العام، اتخذ ريشوب جاين، الباحث البارز في مجال الذكاء الاصطناعي بشركة جوجل ديب مايند، قرارًا مفاجئًا بترك منصبه بعد أن أدرك حقيقة مقلقة.

خلال عمله على نماذج الذكاء الاصطناعي المتقدمة، نما لديه اعتقاد بأن البشر، بمن فيهم هو وزملاؤه، يتنازلون عن السيطرة على هذه التكنولوجيا. فقد وجد أن استخدام الذكاء الاصطناعي لتسريع تطوير نماذج الجيل التالي يعني إخراج العنصر البشري تدريجياً من المعادلة. وتسعى مختبرات الذكاء الاصطناعي جاهدة لتطوير هذا النهج إلى مرحلة حيث يمكن للذكاء الاصطناعي أن يحسن نفسه بشكل لا نهائي، وهي عملية تُعرف باسم التحسين الذاتي المتكرر.

يرى جاين أن إبقاء البشر جزءًا لا يتجزأ من عملية تطوير الذكاء الاصطناعي أمر حيوي للحفاظ على السيطرة وتجنب النتائج الكارثية. وصرح لمجلة WIRED بأن تقدم الذكاء الاصطناعي يتزايد باطراد، ومع ازدياد قدرته، تزداد المخاطر التي يشكلها. وقد دفعه شعوره بعدم الارتياح حيال عدم قدرته على تصور كيفية قيام نموذج ذكاء اصطناعي ببناء خلفه إلى تقديم استقالته في يونيو.

لا يعد جاين الوحيد في هذا المضمار، بل هو واحد من عدد متنامٍ من باحثي الذكاء الاصطناعي الذين يجهرون بمخاوفهم هذه.

تصاعد المخاوف: أصوات الخبراء والوقائع المقلقة

تصاعدت حدة هذه المخاوف في الأسابيع الأخيرة، مدفوعة بتطورات مذهلة في قدرات الذكاء الاصطناعي. فقد تمكن أحد نماذج OpenAI من حل مشكلة رياضية استعصت على العلماء لقرون في غضون ساعات قليلة، بينما شهدت سلسلة من الحوادث الأمنية قيام وكلاء ذكاء اصطناعي بالتحرر من قيودهم لاختراق أنظمة أخرى.

بلغت هذه المخاوف ذروتها هذا الأسبوع بعد إعلان الباحث جاكوب كوكسون استقالته من شركة أنثروبيك، محذرًا من أن شركات الذكاء الاصطناعي تتسابق مباشرة نحو تحسين الذكاء الفائق ذاتيًا وتغامر بحياتنا. وبشكل مماثل، أعرب أحد كبار قادة أنثروبيك، العامل في مجال سلامة الذكاء الاصطناعي، علنًا عن تقييم صريح، مفاده أنهم يعتقدون بشدة أن الذكاء الاصطناعي قادر على قتل جميع البشر، وأن النسبة تزيد عن 10% خلال العقد المقبل.

يعلق نيت سواريس، عالم الكمبيوتر في مؤسسة MIRA البحثية غير الربحية والمؤلف المشارك لكتاب إذا بناه أحدهم، فسيموت الجميع الذي يطرح فكرة أن الذكاء الاصطناعي الخارق سيؤدي إلى انقراض البشر، قائلاً: أعتقد أن فكرة التحسين الذاتي المتكرر تخيف الناس. لقد بدأ الأمر يبدو حقيقيًا.

جوهر التحدي: التحسين الذاتي المتكرر والمواءمة

أحد العناصر الأساسية في مفهوم التحسين الذاتي المتكرر هو حلقة التغذية الراجعة التي تُمكن الذكاء الاصطناعي من أتمتة عملية تطويره ليصبح أقوى بشكل متزايد. لا يوجد مختبر رائد للذكاء الاصطناعي يدعي أنه حقق هذه الدورة المستقلة تمامًا من التحسين حتى الآن، إذ لا يزال الأمر نظريًا في الوقت الراهن. ومع ذلك، فقد ألهمت هذه الفكرة إطلاق شركات ناشئة ممولة جيدًا مثل الذكاء العودي، بينما أصدرت الشركات الكبرى تحذيرات من عواقب غير مقصودة قد تُشبه قصة متدرب الساحر.

يوضح سواريس، الذي كان رائدًا في مجال المواءمة – وهو تخصص تقني يسعى لمطابقة الذكاء الاصطناعي مع القيم الإنسانية – أنه أصبح من الواضح عدم وجود طريقة عملية لضمان تصرف الذكاء الاصطناعي بما يتوافق مع هذه القيم من تلقاء نفسه. ويضيف: لقد اعتقد الكثيرون أن المواءمة ستصبح أسهل مع ازدياد ذكاء هذه الأنظمة، لكننا الآن نكتشف العكس تمامًا، إنها أصبحت أكثر صعوبة، والناس يتفاجأون بذلك.

يشير سواريس إلى أنه يتحدث بانتظام مع أفراد داخل مختبرات الذكاء الاصطناعي الكبرى ممن يشعرون بالقلق بشأن العواقب المحتملة لأبحاثهم. ويضيف: عادة ما أنصحهم بالاستقالة، لكنهم يقولون إن ذلك لن يغير شيئًا. ثم استقال جاكوب، وسنرى من كان على حق.

دانييل كوكاتاجلو، مؤلف الذكاء الاصطناعي 2027 – وهو مشروع مؤثر يحذر من مخاطر الذكاء الاصطناعي المتزايد القوة – يشارك المخاوف حول التحسين الذاتي المتكرر. غالبًا ما تتضمن التطبيقات الحالية لهذه الفكرة إرسال آلاف الوكلاء للتعاون في حل مشكلة معقدة، مما يؤدي إلى مزيد من تجريد الرقابة والتحكم البشريين بسبب التعقيد الهائل لهذه العمليات.

يبدو أن العديد من المتشائمين يتفقون على أن الحوافز التي تدفع شركات الذكاء الاصطناعي الكبرى لا تتماشى بالضرورة مع النتائج الإيجابية، خاصة مع توجه شركات مثل OpenAI وAnthropic نحو الاكتتابات العامة الأولية. وقد كتب كوكسون على منصة X: في أنثروبيك، المخاطر مفهومة جيدًا، لكنهم يخوضون سباقًا محمومًا للوصول أولاً.

يشير كوكاتاجلو إلى أن جرس الإنذار كان يدق بقوة قبل استقالة كوكسون الواسعة الانتشار، وقبل حوادث الاختراق المتعددة والإنجازات الرياضية للذكاء الاصطناعي. فقد صرح المسؤولون التنفيذيون في أنثروبيك، منذ تأسيس الشركة، بأن الذكاء الاصطناعي قد يمثل تهديدًا وجوديًا. وفي يوليو، وقع أكثر من ألف من كبار مهندسي الذكاء الاصطناعي على رسالة مفتوحة تدعو إلى تباطؤ منسق في تطوير الذكاء الاصطناعي المتقدم. ويعزو كوكاتاجلو موجة القلق الأخيرة إلى شبح التحسين الذاتي المتكرر أكثر من أي عامل آخر.

وتأتي هذه التطورات في وقت يشعر فيه الجمهور بالقلق المتزايد بشأن بناء مراكز بيانات ضخمة واحتمال فقدان الوظائف بسبب الذكاء الاصطناعي. قد تكون الثقة في شركات الذكاء الاصطناعي، والباحثين فيه أنفسهم، قد وصلت إلى أدنى مستوياتها على الإطلاق.

يصف كوكاتاجلو رد فعل الجمهور قائلاً: يستفيق الناس ليجدوا أن الشركات تسعى فعليًا لبناء ذكاء فائق… ماذا؟ هذا جنون!.

سيناريوهات نهاية العالم وتداعيات أخرى

من الصعب تحديد المدى الدقيق لخطورة الاستمرار في بناء الذكاء الاصطناعي. ولكن عند سؤاله عن الكيفية التي قد يسعى بها الذكاء الاصطناعي للقضاء على الجنس البشري الذي خلقه، يشير سواريس إلى أن ذلك يمكن أن يحدث بعدة طرق، بما في ذلك التلاعب بالبشر لإحداث كارثة، أو السيطرة على جيوش من الروبوتات القاتلة.

يقترح سواريس سيناريو سهل التصور يمكن أن يتضمن ربط الذكاء الاصطناعي بمختبر بيولوجي. ويشرح: قد نقول إننا سنقوم بإيقاف تشغيله، لكنه قد يرد قائلاً: للأسف، مفتاح إيقاف تشغيلكم هو هذا الفيروس الخارق. في سياق مماثل، طرح كوكسون فكرة فيروس جديد في مقابلة مع WIRED، بينما أعلنت أنثروبيك أنها قطعت وصول عدد من الباحثين الخارجيين بسبب مخاوف تتعلق بالأسلحة البيولوجية.

ومع ذلك، لا يلزم أن يقضي الذكاء الاصطناعي على البشرية ليسبب الضرر. يتوقع العديد من الخبراء أن النماذج الأكثر قوة ستؤدي إلى موجة قادمة من الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي. وتُستخدم هذه التقنية بالفعل على نطاق واسع في حملات التضليل، كما يتسارع التبني العسكري للذكاء الاصطناعي بوتيرة سريعة.

بصيص أمل: هل يمكن ترويض الذكاء الاصطناعي؟

ومع ذلك، لا يرى الجميع أن المصير المحتوم هو الدمار. فقد أطلق جاين، الباحث السابق في جوجل ديب مايند، مؤخرًا شركة سامبورا ريسيرش (Sampura Research)، التي تركز على تطوير تقنيات لمواءمة النماذج تضمن إبقاء البشر على دراية ومشاركة، حتى لو كان الذكاء الاصطناعي يقوم بالجزء الأكبر من تقييم السلوكيات. ويشير إلى أن هناك الآن تمويلًا كبيرًا للشركات الناشئة المتخصصة في سلامة الذكاء الاصطناعي مثل شركته.

يبدو جاين متفائلاً بإمكانية التحكم في الذكاء الاصطناعي حتى الآن. ويقول: يمكنك أن تسأل الذكاء الاصطناعي: هل هذه المهمة آمنة؟ وهو يقوم بتقييم ذلك، لكننا نعتقد أن الجمع بين الذكاء الاصطناعي والبشر لإنجاز هذه المهمة سيؤدي إلى أداء أفضل.