ربما جيفري هينتون الباحث الأكثر شهرة في مجال الذكاء الاصطناعي في العالم ، حقق نجاحًا كبيرًا قبل بضعة أشهر عندما كان كشف علنا أنه ترك Google حتى يتمكن من التحدث بصراحة عن مخاطر التكنولوجيا التي ساعد في تطويرها. إعلانه لم يأت من فراغ. كان أواخر عام 2022 يدور حول الاكتشاف السريع لما يمكن أن يفعله الذكاء الاصطناعي لنا. في عام 2023 ، حتى أثناء محادثة GPT و Bing ، تم غسل الدوخة باستخدام ملف كوكتيل الذعر القلق الوجودي. لذلك لم تكن صدمة تامة أن الرجل المعروف باسم “الأب الروحي للذكاء الاصطناعي” قد يشارك تحفظاته المدروسة. بذل هينتون جهدًا ليقول إن نقده لم يكن انتقادًا لعملاق البحث الذي وظفه لمدة عقد من الزمان. لقد تجنب مغادرته ببساطة أي توترات محتملة ناتجة عن انتقاد التكنولوجيا التي تستخدمها شركتك بقوة.
كانت رسالة هينتون الأساسية هي أن الذكاء الاصطناعي يمكن أن يخرج عن نطاق السيطرة ، على حساب الإنسانية. في الأسابيع القليلة الأولى بعد ظهوره للجمهور ، أجرى عددًا من المقابلات ، بما في ذلك مع Will Knight الخاص بـ WIREDحول تلك المخاوف ، التي لم يشعر بها إلا مؤخرًا نسبيًا ، بعد أن رأى قوة نماذج اللغات الكبيرة مثل تلك التي تقف وراء ChatGPT من OpenAI.
لقد أجريت محادثتي الخاصة مع هينتون في وقت سابق من هذا الصيف ، بعد أن كان لديه بعض الوقت للتفكير في حياته ومهمته بعد Google. تحدثنا عن سيناريوهات العذاب ، بالطبع ، لكنني كنت مهتمًا أكثر بما جعله يغير رأيه بشأن مستقبل الذكاء الاصطناعي المحتمل. الأهم من ذلك كله ، أردت أن أعرف ما يعتقد أنه ماجستير في القانون عمل يمكن أن تجعلهم أعداء لفريق الإنسان. المخاوف التي يعبر عنها هينتون الآن هي تحول كبير عن في المرة السابقة تحدثنا، في عام 2014. في ذلك الوقت ، كان يتحدث عن دور التعلم العميق في مساعدة Google على القيام بترجمة أكثر فاعلية ، وتحسين التعرف على الكلام ، وتحديد أرقام العناوين بدقة أكبر في المنازل المعروضة على خرائط Google. فقط في نهاية المحادثة ، اتخذ وجهة نظر أكثر شمولية ، قائلاً إنه شعر أن التعلم العميق سيخضع لتجديد كبير من شأنه أن يؤدي إلى فهم أعمق للعالم الحقيقي.
كان توقعه صحيحًا ، لكن في حديثنا الأخير ، كان هينتون لا يزال يتعجب من كيفية حدوث ذلك بالضبط. في النهاية ، تحولت محادثتنا نحو المزيد من العوالم الفلسفية. ما كان في الواقع يحدث عندما أجاب نظام مثل برنامج الدردشة Bard من Google على سؤالي؟ وهل تمثل LLM حقًا ، كما يدعي بعض الناس ، سلف الشكل الفضائي للذكاء الخارق؟
يقول هينتون إن رأيه قد تغير عندما أدرك ثلاثة أشياء: يبدو أن روبوتات المحادثة تفهم اللغة جيدًا. نظرًا لأنه يمكن تكرار كل تعلم جديد في النموذج ونقله إلى النماذج السابقة ، فيمكنهم مشاركة المعرفة مع بعضهم البعض ، أسهل بكثير من العقول ، التي لا يمكن ربطها بشكل مباشر. والآلات لديها الآن خوارزميات تعليمية أفضل من البشر. يقول: “انقلبت فجأة في وجهة نظري أن الدماغ كان أفضل من تلك العوامل الرقمية”. “إنهم يعرفون بالفعل 1000 مرة أكثر من أي عقل واحد. لذا من حيث المعرفة الهائلة ، فهي أفضل بكثير من الدماغ. “
يعتقد هينتون أنه بين خمسة وعشرين عامًا من الآن ، هناك فرصة بنسبة 50 في المائة لأن تكون أنظمة الذكاء الاصطناعي أكثر ذكاءً منا. سألته كيف سنعرف متى حدث ذلك. يقول: “سؤال جيد”. ولن يتفاجأ إذا اختار نظام ذكاء اصطناعي فائق الذكاء الاحتفاظ بقدراته لنفسه. “من المفترض أنه كان سيتعلم من السلوك البشري ألا يخبرنا بذلك.”
بدا لي ذلك وكأنه كان يجسد تلك الأنظمة الاصطناعية ، وهو أمر يطلب العلماء باستمرار من الناس العاديين والصحفيين عدم القيام به. يعترف هينتون قائلاً: “يبذل العلماء قصارى جهدهم لعدم القيام بذلك ، لأن تجسيد معظم الأشياء أمر سخيف”. “لكنهم تعلموا هذه الأشياء منا ، وسيتعلمون التصرف مثلنا لغويًا. لذلك أعتقد أن تجسيدها أمر منطقي تمامًا “. عندما يتم تدريب وكيل الذكاء الاصطناعي القوي لديك على إجمالي المعرفة الرقمية البشرية – بما في ذلك الكثير من المحادثات عبر الإنترنت – فقد يكون الأمر أكثر سخافة لا لتتوقع أن يتصرف الإنسان.
ولكن ماذا عن الاعتراض على أن روبوت المحادثة لا يمكنه أبدًا فهم ما يفعله البشر ، لأن تلك الروبوتات اللغوية هي مجرد نبضات على رقائق الكمبيوتر دون خبرة مباشرة في العالم؟ كل ما يفعلونه ، بعد كل شيء ، هو توقع الكلمة التالية اللازمة لإصدار استجابة ترضي الموجه إحصائيًا. هينتون يشير إلى أنه حتى نحن لا تواجه العالم مباشرة.
“يعتقد بعض الناس ، مهلا ، أن هناك هذا الحاجز النهائي ، وهو أن لدينا خبرة ذاتية و [robots] لا تفعل ، لذلك نحن نفهم الأشياء حقًا ولا نفهمها ، “يقول هينتون. “هذا مجرد هراء. لأنه من أجل التنبؤ بالكلمة التالية ، عليك أن تفهم ماهية السؤال. لا يمكنك التنبؤ بالكلمة التالية دون فهم ، أليس كذلك؟ بالطبع هم مدربون على التنبؤ بالكلمة التالية ، ولكن نتيجة للتنبؤ بالكلمة التالية فهموا العالم ، لأن هذه هي الطريقة الوحيدة للقيام بذلك “.
لذلك يمكن أن تكون هذه الأشياء … حساسة؟ لا أريد أن أصدق أن هينتون ستفعل كل شيء بليك ليموين علي. وهو ليس كذلك ، على ما أعتقد. “دعني أستمر في مسيرتي المهنية الجديدة كفيلسوف ،” يقول هينتون مازحا ، بينما نتخطى بشكل أعمق في الأعشاب. دعنا نترك الإحساس والوعي خارجها. أنا لا تدرك العالم بشكل مباشر حقًا. ما أعتقد أنه في العالم ليس ما هو موجود حقًا. ما يحدث هو أنه يتبادر إلى ذهني ، وأرى حقًا ما يدور في ذهني عقل مباشرة. هذا ما اعتقده ديكارت. ثم هناك مسألة كيف ترتبط هذه الأشياء في ذهني بالعالم الحقيقي؟ وكيف أعرف العالم الحقيقي حقًا؟ ” يمضي هينتون في القول بأنه نظرًا لأن تجربتنا الخاصة هي تجربة ذاتية ، فلا يمكننا استبعاد أن الآلات قد يكون لها تجارب صالحة بنفس القدر. يقول: “في ظل هذا الرأي ، من المعقول جدًا أن نقول إن هذه الأشياء قد يكون لها بالفعل خبرة ذاتية”.
الآن ضع في اعتبارك الاحتمالات المجمعة التي يمكن للآلات أن تفهم العالم حقًا ، ويمكن أن تتعلم الخداع والعادات السيئة الأخرى من البشر ، وأن أنظمة الذكاء الاصطناعي العملاقة يمكنها معالجة آلاف المرات من المعلومات التي يمكن للعقول التعامل معها. ربما لديك الآن ، مثل هينتون ، نظرة أكثر خطورة لنتائج الذكاء الاصطناعي المستقبلية.
لكننا لسنا بالضرورة في رحلة حتمية نحو الكارثة. يقترح هينتون نهجًا تقنيًا قد يخفف من لعبة قوة الذكاء الاصطناعي ضد البشر: الحوسبة التناظرية ، تمامًا كما تجده في علم الأحياء وكما يعتقد بعض المهندسين أن أجهزة الكمبيوتر المستقبلية يجب أن تعمل. كان هذا هو آخر مشروع عمل عليه هينتون في Google. يقول: “إنها تعمل من أجل الناس”. قد يكون اتباع نهج تناظري للذكاء الاصطناعي أقل خطورة لأن كل مثيل من الأجهزة التناظرية له بعض التفرد ، حسب أسباب هينتون. كما هو الحال مع عقولنا الصغيرة المبتلة ، لا يمكن للأنظمة التناظرية أن تندمج بسهولة في نوع Skynet من ذكاء الخلية.
يقول عن النهج التناظري: “الفكرة هي أنك لا تجعل كل شيء رقميًا”. “نظرًا لأن كل قطعة من الأجهزة التناظرية مختلفة قليلاً ، لا يمكنك نقل الأوزان من نموذج تناظري إلى آخر. لذلك لا توجد طريقة فعالة للتعلم في العديد من النسخ المختلفة من نفس النموذج. إذا حصلت على AGI [via analog computing]، سيكون أشبه بالبشر ، ولن يكون قادرًا على استيعاب أكبر قدر ممكن من المعلومات مثل تلك النماذج الرقمية “.
يبدو أن الفرص ضئيلة في أن تتسابق شركات التكنولوجيا الكبرى لإضفاء الذكاء على روبوتات الدردشة الخاصة بها في LLM والتي ستتبنى هذا النهج التقني النباتي للذكاء الاصطناعي. المنافسة شديدة ، ومكافآت إنتاج أقوى روبوتات فلكية. يشك هينتون ، الذي لا يخجل من التعبير عن آرائه السياسية ، في أن الشركات العامة الكبرى أو الشركات الناشئة التي تدعمها صناديق الاستثمار ستعيق ابتكاراتها في مجال الذكاء الاصطناعي بسبب بعض النظرة الجيدة للمنفعة العامة.
يقول هينتون إنه متفائل في بعض الأيام. “الناس بارعون جدًا ، وهم ليسوا أذكى منا حتى الآن ، ولم يتطوروا ليصبحوا سيئين وتافهين مثل الناس ومخلصين جدًا لقبيلتك ، وغير موالين تمامًا للقبائل الأخرى. وبسبب ذلك ، قد نتمكن من إبقائه تحت السيطرة وجعله خيرًا “. لكن في أوقات أخرى ، يشعر هينتون بالتشاؤم. “هناك مناسبات أعتقد أننا ربما لن نكون قادرين على احتوائها ، ونحن مجرد مرحلة عابرة في تطور الذكاء.”
ثم هناك كسر مفاجئ في الشبكة العصبية التناظرية الفريدة وغير القابلة للنسخ لجيف هينتون – يتم إسكات العلم ، وتنفجر السياسة ، التي تخمرها إحساسه الإنساني باللعب ، “إذا وضعنا بيرني في زمام الأمور ، وكان لدينا اشتراكية ، فكل شيء أن تكون أفضل بكثير “، كما يقول. أراهن أن مديريه السابقين في Google مرتاحون لعدم اضطرارهم للإجابة عن هذا السؤال.
السفر عبر الزمن
في يناير 2015 ، قصتي Backchannel (الآن في أرشيف WIRED) يتعلق بكيفية تنفيذ اكتشافات فريق Hinton ، وقتًا طويلاً ، في منتجات Google والعالم بشكل عام. استغرق الأمر قدرًا معينًا من التسول لإجراء مقابلة مع هينتون ، التي كان وقتها في الحرم الجامعي في ماونتن فيو محدودًا ، لكنني أخيرًا حصلت على جمهوري.
يقول جيفري هينتون: “أريد أن أعرف القليل عن خلفيتك”. “هل حصلت على درجة علمية؟”
يقف هينتون ، وهو رجل إنكليزي قوي الذكاء عن طريق كندا ، في لوحة بيضاء في ماونتن فيو ، كاليفورنيا ، في حرم Google ، الشركة التي انضم إليها في عام 2013 كباحث متميز. ربما يكون هينتون هو الخبير الأول في العالم في أنظمة الشبكات العصبية ، وهي تقنية ذكاء اصطناعي ساعد في ريادتها في منتصف الثمانينيات. (لاحظ ذات مرة أنه كان يفكر في الشبكات العصبية منذ أن كان في السادسة عشرة من عمره.) في معظم الفترة منذ ذلك الحين ، وُصفت الشبكات العصبية – التي تحاكي تقريبًا الطريقة التي يتعلم بها الدماغ البشري – بأنها وسيلة واعدة لأجهزة الكمبيوتر لإتقانها أشياء صعبة مثل الرؤية واللغة الطبيعية. بعد سنوات من انتظار وصول هذه الثورة ، بدأ الناس يتساءلون عما إذا كان سيتم الوفاء بالوعود.
ولكن منذ حوالي عشر سنوات ، في مختبر هينتون بجامعة تورنتو ، حقق هو وبعض الباحثين الآخرين تقدمًا مفاجئًا جعل الشبكات العصبية أكثر الأشياء إثارة في الذكاء الاصطناعي. لم يقتصر الأمر على Google فحسب ، بل بدأت شركات أخرى مثل Facebook و Microsoft و IBM في السعي بشكل محموم إلى العدد الضئيل نسبيًا من علماء الكمبيوتر الملمين بالفن الأسود المتمثل في تنظيم طبقات عديدة من الخلايا العصبية الاصطناعية بحيث يمكن تدريب النظام بأكمله ، أو حتى تدريب نفسه ، على التماسك الإلهي من المدخلات العشوائية ، بطريقة يتعلم فيها المولود الجديد تنظيم البيانات التي تتدفق في حواس العذراء. مع هذه العملية الفعالة حديثًا ، التي يطلق عليها اسم التعلم العميق ، فإن بعض الأخطاء طويلة الأمد للحسابات (مثل القدرة على الرؤية ، والاستماع ، وأن تكون غير قابلة للهزيمة في Breakout) ستصبح أخيرًا غير متشابكة. عصر أنظمة الكمبيوتر الذكية – الذي طال انتظاره وخوفه طويلا – كان يتنفس فجأة في أعناقنا. وسيعمل بحث Google بشكل أفضل كثيرًا.
اسألني شيئًا واحدًا
يسأل باسكال ، “ما الذي يمكن أن يبدو عليه يوم في حياة طفلة تبلغ من العمر 80 عامًا في دار لرعاية المسنين في المستقبل القريب؟ هل تستطيع روبوتات المحادثة يومًا ما أن تحل جزئيًا محل الاتصال البشري لكبار السن المعزولين؟ هل التكنولوجيا هي الحل حقًا – أم مجرد ضمادة مؤقتة؟ “
شكرا على السؤال باسكال. كما أشكر الآخرين الذين أرسلوا أسئلة إلى mail@WIRED.com مع سطر الموضوع ASK LEVY. نجح مناشدتي الصغيرة الأسبوع الماضي! إبقاء م القادمة!
سؤالك حسن التوقيت ، باسكال ، لأنني أتخيل أنه ربما يوجد مائة شركة ناشئة تعمل على روبوتات المحادثة لكبار السن. تشير صياغتك إلى أنه لا يوجد بديل عن الاتصال البشري الفعلي ، وبالطبع أنت على صواب. من الناحية المثالية ، ينبغي أن نقضي سنواتنا الأخيرة في وسط شبكة من الرفقة المحبة من الأصدقاء والأقارب. لكن الحقيقة هي أن الملايين من كبار السن يقضون السنوات الأخيرة من حياتهم في دور رعاية المسنين مع الحد الأدنى من الاتصال. من المعقول أن نسأل ما إذا كانت التكنولوجيا يمكن أن تصنع هؤلاء الناس يشعر كما لو كان لديهم رفقة جذابة. نحن بالتأكيد قريبون من روبوتات الدردشة التي يمكنها محاكاة القائم على رعاية الإنسان ، أو حتى شيء يبدو وكأنه صديق. إذا كان الاختيار بين ذلك وبين جهاز التلفزيون الذي يدير بعض قنوات الكابل من الجحيم ، فسيكون من القسوة حرمان شخص ما من LLM بارع يعرف مفضلته موضوعات orite وسوف يستمعون ويستجيبون بشكل غير مبرر لسرد الذكريات الجميلة والحكايات المشوشة بدون نقطة.
لكن لدي أمل أكبر. ربما يمكن للذكاء الاصطناعي المتقدم أن يحقق اكتشافات في الطب تحافظ على صحة الناس في وقت متأخر من الحياة. قد يسمح ذلك للناس بالبقاء نشيطين لفترة أطول ، مما يقلل الوقت الذي يقضونه في دور رعاية المسنين والمؤسسات المعزولة. بالطبع هذا لا يعالج النقص المخزي في الاهتمام الذي نوليه لكبار السن. على حد تعبير الراحل جون برين ، “إن كبار السن يصبحون وحدهم ، في انتظار شخص ما ليقول ، مرحبًا بكم ، مرحبًا. ” أعتقد أن chatbot يقول أن هذا أفضل من لا شيء.
يمكنك إرسال الأسئلة إلى mail@wired.com. يكتب اسأل ليفي في سطر الموضوع.
تاريخ نهاية تايمز
السكان والسياح يهربون إلى المحيط اشتعلت النيران في ماوي.
أخيراً وليس آخراً
قضيت الأربعاء في المتنزه مع Grimesيتحدث منظمة العفو الدولية ، المريخ ، NFTs القادمة لها ما بعد الإنسانية للأطفالو LSD وأنت تعرف من.
اتضح أن شريحة إنتل لديه نقطة ضعف التي تهدد الخصوصية للملايين. ماذا تتوقع أيضًا من شريحة تسمى Downfall؟
سئمت التكنولوجيا الكبيرة؟ انضم للحركة إلى الخروج من السحابة.
الهيب هوب يبلغ من العمر 50 عامًا ، ويستيقظ الناس على احتياجات الحفاظ على تاريخها. ونعم ، سميثسونيان عليها.
لا تفوّت الإصدارات المستقبلية المخصصة للمشتركين فقط من هذا العمود. الاشتراك في WIRED (خصم 50٪ لقراء النص العادي) اليوم.