قبل بضعة أشهر، تم استدعائي في اللحظة الأخيرة للمشاركة في محادثة على خشبة المسرح في إحدى فعاليات نقابة المؤلفين. (أنا عضو في مجلس المنظمة غير الربحية، ولكن بالطبع أتحدث هنا عن نفسي فقط.) أمضيت أنا والمدير التنفيذي للنقابة ماري رازنبرجر معظم الجلسة في استكشاف الآثار المترتبة على المستقبل حيث يمكن لروبوتات الذكاء الاصطناعي إنشاء أعمال أدبية قابلة للحياة. بالنسبة للكتاب، إنه سيناريو مرعب. وبينما كنا نناقش احتمال إغراق السوق بالكتب التي تم تأليفها باستخدام شبكات عصبية محفزة، خطر لي اكتشاف بدا وكأنه يخفف بعض القلق. ربما لم تكن هذه فكرة أصلية، وربما خطرت ببالي هذه الفكرة بنفسي في وقت سابق ونسيتها. (إن قدرتي على الاحتفاظ بما هو موجود في مجموعة التدريب الخاصة بي أقل من تلك التي لدى ChatGPT أو Claude.) لكنها أطرت الموقف بطريقة تجاوزت قضايا مثل حقوق الطبع والنشر والإتاوات.
أطرح الأمر على الجمهور بشيء من هذا القبيل: لنفترض أنك قرأت رواية أحببتها حقًا، وهو شيء ألهمك. وفقط بعد أن انتهيت تم إخبارك أن المؤلف لم يكن إنسانًا، بل نظام ذكاء اصطناعي … روبوت. كم منكم سيشعر بالغش؟
ارتفعت كل الأيدي تقريبًا.
وتابعت أن سبب هذا الشعور هو أننا عندما نقرأ – عندما نتعامل مع أي قطعة فنية، في الواقع، في أي وسيط – فإننا نبحث عن شيء أكثر من مجرد محتوى رائع. نحن نسعى إلى التواصل الإنساني.
وينطبق هذا حتى عندما يكون المؤلف قد مات منذ فترة طويلة. إذا كان أي شخص لا يزال يقرأ تشوسر (هل تم إلغاؤه بعد؟)، بطريقة أو بأخرى، على مر القرون، يمكننا أن ندخل في ذهن بعض الرجال الذين عاشوا في القرن الرابع عشر وكان من الرائع التحدث معهم أثناء احتساء الجعة أو كأس من شراب الميد. في الواقع، نحن نتعرف عليه بشكل أفضل من خلال قراءته، حتى لو كان علينا أن نعاني قليلاً مع اللغة الإنجليزية الوسطى. (الدعائم لآن ماتونيس، نجمة الروك الخاصة بي وأستاذة الأدب في العصور الوسطى في جامعة تيمبل. رغم ذلك، فهي طالبة صعبة.)
لقد كان هذا الغموض حول معنى التأليف البشري هو نجمي الشمالي وأنا أشق طريقي عبر قضايا الذكاء الاصطناعي الصعبة التي يبدو أنها تحاصرنا كل يوم. لقد فكرت في الأمر هذا الأسبوع عندما جلست في مؤتمر صحفي من مديري منتجات Google يشرحون فيه بعض ميزات الذكاء الاصطناعي الجديدة نموذج لغة كبير يعمل بنظام chatbot Gemini. (بالنسبة لأولئك الذين لا يحتفظون بالسجلات في المنزل، هذا هو الروبوت المعروف سابقًا باسم Bard؛ وهذه الشركات تغير الأسماء أكثر من الجواسيس الذين لديهم صناديق ودائع آمنة مليئة بجوازات السفر). ويقولون إن برنامج Gemini الجديد المعزز يعد “بزيادة إنتاجيتك وإنجازاتك”. إِبداع.”
الإنتاجية هي فوز كبير للخوارزميات. لا تمحك هناك. الإبداع يجب أن نتحدث عنه.
قدمت جوجل بعض الأمثلة التوضيحية. كان أحدهم ينظم وجبات خفيفة لفريق كرة قدم للأطفال. يمكن لـ Gemini معرفة من يحضر ماذا وفي أي لعبة، وإرسال رسائل بريد إلكتروني مخصصة إلى الأشخاص المناسبين، وحتى رسم خريطة للوجهات. يبدو أن هذه طريقة رائعة لتوفير الوقت فيما يمكن أن يكون مضيعة للوقت. إنتاجية!
المثال الثاني يتضمن إنشاء “تعليق لطيف” لصورة كلب العائلة. قال الجوزاء: “باكستر هو ملك التلال! 👑 انظر من هو على قمة العالم! هذا تعليق ممتع إلى حد معقول. لكنه يجعلني أفكر في الغرض من النشر على وسائل التواصل الاجتماعي، والذي يدور حول العلاقات الإنسانية. تعد مشاركة ملاحظة مثبتة على صورة كلبك جزءًا من المحادثة. يؤدي استخدام الكاتب الخفي إلى إبعادك دائمًا عن الأصدقاء والمتابعين الذين يقرؤون التعليق. املك إنسان آلي اجعل الجزء الخاص بك من المحادثة يبدو وكأنه الاستعانة بمصادر خارجية إلى أقصى الحدود.
لا توجد مشكلة في استئجار شخص لتمشية كلبك. ولكن التوظيف، أم، شيء ل يتحدث عن كلبك؟ غريب. ماذا لو فعل الجميع هذا؟ أراهن أننا لن نستمتع بالتسميات التوضيحية كثيرًا. قد يشعر الصديق الذي رد على التعليق الآلي بالتعليق بالسخافة إذا علم لاحقًا أنه كان يستجيب لشيء تم اختراعه بواسطة شبكة عصبية اصطناعية، وليس شبكة بيولوجية اسفنجية. أو ربما يسألك صديقك هُم الجوزاء للتوصل إلى رد لطيف. ومن ثم يمكن للبشر الجلوس بينما تتحدث الروبوتات الخاصة بهم. قد يكون لدى الحاضرين ذكاء شديد مثل مسرحية توم ستوبارد. ولكن لن يكون هناك أي اتصال بشري.
لا شك أن نماذج اللغة هذه ستوفر فوائد هائلة. أتمتة مقترحات المنح تلك! تلخيص تقارير المبيعات تلك! تعليم هؤلاء الأطفال على الجبر! أخبرنا عندما يُبلغ جدول البيانات عن شيء مشبوه! رمز حتى عاصفة! ولكن بعض المحتوى يتوقف على اتصال. حالة استخدام أخرى معروضة في ملخص Google: “ساعدني في كتابة مستند لوظيفة ما”. يستطيع الجوزاء أن يفعل أشياء رائعة بهذا. لكن أصحاب العمل يقرأون هذه الأشياء للتعرف على المهارات المنطقية لمقدم الطلب، وفهم متطلبات الوظيفة، وعقلانيته الأساسية. عندما يقوم الجميع بإنشاء تلك الحروف باستخدام الذكاء الاصطناعي، ستصبح هذه العوامل غامضة. لا تهتم بالرسالة وأرسل السيرة الذاتية فقط. للحصول على اتصال حقيقي، سيتعين على مسؤول التوظيف إجراء Zoom – ونأمل ألا ترسل نسختك المزيفة العميقة.
في كتابه الذي صدر للتو النظرية الأدبية للروبوتات, ويشير دينيس يي تينين، أستاذ اللغة الإنجليزية المشارك في جامعة كولومبيا، إلى أن المخاوف مثل مخاوفي – ومخاوف نقابة المؤلفين – لها سابقة. ويقول إنه على الرغم من ارتباطاتها الفكرية، فإن الكثير من أعمال الكتابة هي شكل تقليدي من العمل عرضة للأتمتة. وهو يستشهد بالتطور الذي حدث في عصر ما قبل استخدام الكمبيوتر لتقنيات “القالب” التي يمكنها تسريع العملية وحتى تقديم حبكات المؤلف. في عام 1895، على سبيل المثال، نشر كاتب فرنسي يدعى جورج بولتي كتابًا نموذجيًا يسمى المواقف الدرامية الستة والثلاثون. أعمال أخرى حطمت عناصر القصص الغامضة. ظهرت أنظمة أكثر تعقيدًا، مثل خزانة ملفات كاملة مليئة بالملاحظات التي يمكنك مزجها أو مطابقتها لإنشاء عملك الخاص. قال لي تينين عندما اتصلت به عبر الهاتف: “لقد بدوا فاضحين للناس في ذلك الوقت”. ” قالوا يا إلهي، لا يمكنك ذلك، فأنت تدمر عبقرية التأليف!” بالطبع، هذا لم يحدث. وحتى في بعض مجالات الكتابة التي تستخدم صيغًا جامدة، مثل الخيال العلمي والمسلسلات التليفزيونية، تمكن الكتّاب من التعبير عن أنفسهم بشكل فريد ضمن تلك الحدود والحصول على اتصال حقيقي. ويتوقع تينين أن يحدث الشيء نفسه في الذكاء الاصطناعي. ويقول: “بعض الممارسين الذين يستخدمون أدوات الذكاء الاصطناعي والذكاء البشري سوف يتفوقون على الإمكانيات الآلية”.
أحب أن أصدق ذلك. بغض النظر عن مدى جودة هذه الروبوتات، فإن الكتاب والموسيقيين والفنانين سوف يلطخون بصماتهم الرائعة والفوضوية على المخرجات. سوف يشعر الجمهور بالإنسانية التي تعبر عنها تلك الأعمال ويستجيب لها. على مستوى الهواة، قد يعتاد الأشخاص على التسميات التوضيحية الذكية لصورهم التي ينتجها الذكاء الاصطناعي ويدركون أنه من الممتع أكثر وضع تقلباتهم الخاصة عليها.
لن يتمكن أي شيء من إيقاف سعينا العنيد نحو عالم حيث الكثير مما نقرأه ونراه ونسمعه سوف يتم إنتاجه بشكل مشترك، إن لم يكن ملفقًا بالكامل، بواسطة الروبوتات. في العديد من الطرق، ستخفف هذه الأنظمة عبء العمل الروتيني عن معصمينا المرهقين باستخدام لوحة المفاتيح. ومع ذلك، فإنني أشعر بالقلق عندما أسمع ممثلين عن شركات الذكاء الاصطناعي يقولون لنا إننا سوف “نستلهم” من نماذجنا اللغوية، وهي الكلمة التي سمعتها أكثر من مرة خلال ذلك المؤتمر الموجز الذي أجرته جوجل. يستلهم البشر النثر العظيم والصور الرائعة والموسيقى الرائعة وأشكال الفن الأخرى. ربما يومًا ما ستكون أنظمة الذكاء الاصطناعي لدينا قادرة على إنتاج أعمال فنية رائعة، أو حتى أكثر من ذلك، مثل تلك التي يتخيلها أفضل الفنانين البشريين. لكن المغزى من كل ذلك هو الإنسان اتصال. كان الله في عوننا إذا لم نتمكن من معرفة الفرق.
السفر عبر الزمن
أستمر في العودة إلى القصة التي كتبتها لمجلة WIRED في أبريل 2012، حيث كان ذوبان الجليد في الذكاء الاصطناعي بعد الشتاء قد بدأ للتو. لقد قمت بفحص شركة مقرها شيكاغو تدعى Narrated Science والتي تنتج مقالات إخبارية باستخدام الذكاء الاصطناعي، وهي فكرة بدت سخيفة في ذلك الوقت. كان العنوان “هل تستطيع الخوارزمية كتابة قصة إخبارية أفضل من مراسل بشري؟” مازلنا لا نملك إجابة، ولكن الإبرة أصبحت أقرب كثيراً إلى “نعم” مما كانت عليه قبل 12 عاماً.
عندما كان علم السرد في بداياته، كان على الكتّاب الوصفيين أن يقوموا بتثقيف النظام بكل جهد في كل مرة يتناول فيها موضوعًا جديدًا. ولكن لم يمض وقت طويل حتى قاموا بتطوير منصة جعلت من السهل على الخوارزمية التعرف على المجالات الجديدة. على سبيل المثال، قرر أحد المؤلفين بناء آلة لكتابة القصص يمكنها إنتاج مقالات حول أفضل المطاعم في مدينة معينة. وباستخدام قاعدة بيانات لمراجعات المطاعم، تمكنت بسرعة من تعليم البرنامج كيفية تحديد المكونات ذات الصلة (درجات المسح العالية، والخدمة الجيدة، والطعام اللذيذ، واقتباس من عميل سعيد) وإدخال بعض العبارات ذات الصلة. وفي غضون ساعات قليلة، كان لديها روبوت يمكنه إنتاج عدد لا نهاية له من المقالات الصغيرة المرحة مثل “أفضل المطاعم الإيطالية في أتلانتا” أو “سوشي رائع في ميلووكي…”
[Narrative Science CEO] يعتقد هاموند أنه مع نمو علم السرد، فإن قصصه سترتفع إلى أعلى السلسلة الغذائية للصحافة – من أخبار السلع إلى الصحافة التوضيحية، وفي نهاية المطاف، المقالات التفصيلية الطويلة. ربما في مرحلة ما، سيتعاون البشر والخوارزميات، حيث يلعب كل شريك بقوته. قد تكون أجهزة الكمبيوتر، بذاكرتها الخالية من العيوب وقدرتها على الوصول إلى البيانات، بمثابة وسيط للكتاب البشريين. أو بالعكس، قد يقوم المراسلون البشريون بإجراء مقابلات مع الأشخاص ويلتقطون التفاصيل الضالة، ثم يرسلونها إلى جهاز كمبيوتر يكتب كل شيء. ومع زيادة إنجاز أجهزة الكمبيوتر وإمكانية الوصول إلى المزيد والمزيد من البيانات، فإن القيود المفروضة عليها كرواة للقصص سوف تتلاشى. قد يستغرق الأمر بعض الوقت، لكن في نهاية المطاف، حتى قصة مثل هذه يمكن إنتاجها بدوني. يقول هاموند: “البشر أغنياء ومعقدون بشكل لا يصدق، لكنهم آلات”. “في غضون 20 عامًا، لن يكون هناك مجال لا يكتب فيه علم السرد القصص.”
اسألني شيئا واحدا
ويتساءل كوينتين: “يوجد اليوم الكثير من عمليات تزوير البيانات، وانحرافها، وتحريفها عبر الإنترنت من قبل الشركات التي تسعى إلى تحقيق المزيد من الأرباح. ألا يرغب مطورو البرامج في توفير برامج تحاول التحايل على هذه المخاطر التجارية الضخمة على الويب؟
مرحبًا كوينتين، شكرًا على السؤال. هناك الكثير من البرامج التي تحاول الحد من الرسائل غير المرغوب فيها أو المخادعة، وأعتقد أن معظمنا لديه نوع من التصفية التي توجه معظم هذه البرامج مباشرة إلى صناديق البريد العشوائي المدمجة لدينا. يتم وضع علامة على بعض العناصر المشروعة كرسائل غير مرغوب فيها أيضًا، ولكن هذا على الأقل يمنحنا عذرًا متعدد الأغراض لعدم الاستجابة للدعوة. لقد كان في مرشح الرسائل غير المرغوب فيها!
ولكن لا يزال يتعين علينا معالجة الكثير من الأشياء التي يتم وضعها أمامنا، والكثير منها عبارة عن احتيال متطور. البريد العشوائي الذي يشبه الرسائل الأصلية من Paypal أو Amazon منتشر جدًا لدرجة أنني متأكد من أن الشركات الحقيقية التي تقف وراء تلك الرسائل هي في نهاية المطاف. ولحسن الحظ، يمكن اكتشاف عدد مذهل من هذه الرسائل بمجرد النظر إلى عنوان البريد الإلكتروني، والذي غالبًا ما يكشف عن مرسل لا ينتمي إلى الشركة.
المشكلة الأكثر تعقيدًا هي أنه حتى الشركات الشرعية تعرض بضائعها بطرق لزجة. حتى الشركات التي تفتخر بكونها “علامات تجارية موثوقة” غالبًا ما تقتحم صناديق البريد الوارد لدينا مثل نباحي الكرنفال. العروض هي دائمًا الفرصة الأخيرة (نعم، مثل جولة وداع Who)، ونادرا ما تكون “الخصومات” صفقات فعلية. يقدم لنا المسوقون تجارب مجانية مصممة لإبقائنا في اشتراكات طويلة الأجل يكاد يكون من المستحيل إلغاؤها. يعدون بتسمين حساباتنا المصرفية بمنتجات تؤدي في النهاية إلى تقليصها. وحتى لو انتهى بنا الأمر إلى شراء شيء لا يخدعنا، فإنهم يتابعون ذلك بوابل من المطالب بأن نقوم بتقييم التجربة، ثم نضاعف عروضهم أربع مرات. من المؤكد أنه يمكن تطوير الذكاء الاصطناعي لاكتشاف مثل هذه التكتيكات وتحذيرنا منها، ولكن يتم استغلاله أيضًا لتصميم المزيد من الفخاخ التجارية الجهنمية. باختصار، أشعر بألمك، كوينتن. إن صناديق البريد الوارد لدينا هي بمثابة كوابيس هوبزية، ولا أرى كيف سيتغير هذا قريبًا. آسف!
يمكنك تقديم الأسئلة إلى mail@wired.com. يكتب اسأل ليفي في سطر الموضوع.
نهاية تايمز كرونيكل
ماذا؟ حفل جرامي حيث لا يتذمر الجميع من مدى مهزلة ذلك؟ (باستثناء جاي زي، لكنه قال إن شكاواه قدمت “بحب”.) بالإضافة إلى جوني و تريسي!
أخيراً وليس آخراً
بينما تعيد Google تسمية Bard إلى Gemini، يشارك الرئيس التنفيذي ساندر بيتشاي ماذا بعد. قد لا يكون البحث.
هناك نموذج برج الجوزاء المتقدم أيضًا. سوف الناس دفع ثمنها؟
أبدأ هنا في قصة خيالية مذهلة من ستة أجزاء تدور أحداثها في عام 2054، حيث قواعد التفرد.
بعد مرور ستة عشر عامًا على صدور ورقة البيتكوين، لم يكتشف أحد الأمر من هو ساتوشي. الآن سوف يزن القاضي.