في حلقة اليوم، انضمت لويز ماتساكيس، كبيرة المحررين، إلى زوي شيفر لاستعراض خمس قصص تحتاج إلى معرفتها هذا الأسبوع – بدءًا من كيفية تغير تحسين محركات البحث (SEO) في عصر الذكاء الاصطناعي إلى كيف أصبحت الضفادع رمزًا للاحتجاج. بعد ذلك، تتعمق “زوي” و”لويز” في سبب قيام بعض الأشخاص بتقديم شكاوى إلى لجنة التجارة الفيدرالية بشأن ChatGPT، قائلين إنها أدت بهم إلى ذهان الذكاء الاصطناعي.
المقالات المذكورة في هذه الحلقة:
- الأشخاص الذين يقولون إنهم يعانون من ذهان الذكاء الاصطناعي يتوسلون إلى لجنة التجارة الفيدرالية للحصول على المساعدة
- ننسى كبار المسئولين الاقتصاديين. مرحبًا بك في عالم تحسين المحرك التوليدي
- تختفي لجنة التجارة الفيدرالية (FTC) منشورات المدونة حول الذكاء الاصطناعي المنشورة خلال فترة ولاية لينا خان
- التاريخ الطويل للضفادع كرموز للاحتجاج
- جوجل تعاني من غزو بق الفراش في مكاتبها في نيويورك
يمكنك متابعة Zoë Schiffer على Bluesky على”https://bsky.app/profile/zoeschiffer.bsky.social” بيانات حدث النقر=”{“element”:”ExternalLink”,”outgoingURL”:”https://bsky.app/profile/zoeschiffer.bsky.social”}” href=”https://bsky.app/profile/zoeschiffer.bsky.social” rel=”nofollow noopener” الهدف=”_blank”>@zoeschiffer ولويز ماتساكيس على Bluesky at”https://bsky.app/profile/lmatsakis.bsky.social” بيانات حدث النقر=”{“element”:”ExternalLink”,”outgoingURL”:”https://bsky.app/profile/lmatsakis.bsky.social”}” href=”https://bsky.app/profile/lmatsakis.bsky.social” rel=”nofollow noopener” الهدف=”_blank”>@لماتساكيس. اكتب لنا على”http://www.wired.com/mailto:uncannyvalley@wired.com” الهدف=”_blank”>uncannyvalley@wired.com.
كيفية الاستماع
يمكنك دائمًا الاستماع إلى البودكاست لهذا الأسبوع من خلال مشغل الصوت في هذه الصفحة، ولكن إذا كنت تريد الاشتراك مجانًا للحصول على كل حلقة، فإليك الطريقة:
إذا كنت تستخدم جهاز iPhone أو iPad، فافتح التطبيق المسمى Podcasts، أو انقر فقط”https://podcasts.apple.com/us/podcast/uncanny-valley-wired/id266391367″ بيانات حدث النقر=”{“element”:”ExternalLink”,”outgoingURL”:”https://podcasts.apple.com/us/podcast/uncanny-valley-wired/id266391367″}” href=”https://podcasts.apple.com/us/podcast/uncanny-valley-wired/id266391367″ rel=”nofollow noopener” الهدف=”_blank”> هذا الرابط. يمكنك أيضًا تنزيل تطبيق مثل Overcast أو Pocket Casts والبحث عن “uncanny Valley”. نحن على”https://open.spotify.com/show/11hUjoJv4FxFnw9r0mHIsC” بيانات حدث النقر=”{“element”:”ExternalLink”,”outgoingURL”:”https://open.spotify.com/show/11hUjoJv4FxFnw9r0mHIsC”}” href=”https://open.spotify.com/show/11hUjoJv4FxFnw9r0mHIsC” rel=”nofollow noopener” الهدف=”_blank”> سبوتيفي أيضاً.
نص
ملحوظة: هذا نص تلقائي، وقد يحتوي على أخطاء.
زوي شيفر: مرحبًا بك في WIRED وادي غريب. أنا زوي شيفر، مديرة الأعمال والصناعة في WIRED. سنقدم لك اليوم في البرنامج خمس قصص تحتاج إلى معرفتها هذا الأسبوع. وبعد ذلك، سنتعمق في قصتنا الرئيسية حول كيفية قيام العديد من الأشخاص بتقديم شكاوى إلى لجنة التجارة الفيدرالية زاعمين أن ChatGPT الخاص بـ OpenAI قادهم أو قاد الأشخاص الذين يحبونهم إلى ذهان الذكاء الاصطناعي المفترض. انضمت إليّ اليوم كبيرة محرري الأعمال في WIRED، لويز ماتساكيس. لويز، مرحبا بكم في وادي غريب.
لويز ماتساكيس: مرحبًا زوي. من الرائع أن أكون هنا.
زوي شيفر: لذا، يا لويز، قصتنا الأولى هذا الأسبوع هي في الواقع قصة عملنا عليها معًا، وهي جزء من تعاوننا المستمر معها”https://www.wired.com/tag/model-behavior/”> السلوك النموذجي، ويتعلق الأمر كله بكيفية قيام المزيد من المتسوقين في موسم العطلات هذا باستخدام برامج الدردشة الآلية لمعرفة ما يجب شراؤه. أشعر بالفضول، قبل أن نتعمق في هذا، كيف تقرر التسوق الخاص بك في العطلة، لويز، خاصة إذا لم يكن لديك أدنى فكرة عما ستشتريه لشخص ما؟
لويز ماتساكيس: أنا بالتأكيد مزعج، بمعنى أنني أفتخر حقًا بتقديم الهدايا، ولكن لدينا جميعًا أشخاص في حياتنا، على الرغم من كل ذلك، يصعب التسوق من أجلهم. لذا، نعم، بالتأكيد سأبحث في الإنترنت عن أفضل 10 أشياء يمكن أن يشتريها والد زوجك في هذه العطلة، أو أي شيء آخر.
زوي شيفر: نعم. تمام. لذا، هذا العام، سيتبع الناس اتجاهًا مختلفًا بعض الشيء. وفقًا لتقرير تسوق حديث من Adobe، يمكن أن يشهد تجار التجزئة زيادة تصل إلى 520 بالمائة في حركة المرور من روبوتات الدردشة ومحركات بحث الذكاء الاصطناعي مقارنة بعام 2024. ويحاول عمالقة الذكاء الاصطناعي مثل OpenAI بالفعل الاستفادة من هذا الاتجاه. في الأسبوع الماضي، أعلنت OpenAI عن شراكة كبيرة مع Walmart ستسمح للأشخاص بشراء البضائع مباشرة من نافذة الدردشة. نحن نعلم أن هذا هو التركيز الكبير بالنسبة لهم. لذلك، مع بدء الأشخاص في الاعتماد على برامج الدردشة الآلية لاكتشاف منتجات جديدة، يتعين على تجار التجزئة إعادة التفكير في أسلوبهم في التسويق عبر الإنترنت. لعقود من الزمن، كان التركيز على تحسين محركات البحث، وتحسين محرك البحث، وهو السحر المظلم الذي يستخدم بشكل أساسي لزيادة حركة المرور عبر الإنترنت بشكل أساسي من خلال Google. الآن، يبدو أننا ندخل عصر GEO، أو تحسين المحرك التوليدي.
لويز ماتساكيس: أعتقد أن توقعات البيئة العالمية من نواحٍ عديدة ليست في الواقع اختراعًا جديدًا تمامًا. إنه نوع من التكرار التالي لـ SEO. ومن المؤكد أن الكثير من المستشارين الذين يعملون في صناعة GEO جاءوا من عالم SEO. والسبب الكبير الذي يجعلني واثقًا من أن هذا هو الحال هو أننا نعلم، على الأقل في الوقت الحالي، أن روبوتات الدردشة هذه غالبًا ما تستخدم محركات البحث لعرض المحتوى. يمين؟ لذا فهم يستخدمون نفس أنواع الخوارزميات لتصفح الويب التي يستخدمها Google، أو Bing أو أيًا كان، DuckDuckGo. ومن الواضح أن بعض القواعد نفسها ستنطبق. وأيضا الناس هم نفس الشيء. أعتقد أن الطريقة التي نتفاعل بها مع برامج الدردشة الآلية تختلف بشكل كبير عن الطريقة التي نتفاعل بها مع محركات البحث، ولكن الأسئلة الأساسية التي لدينا متشابهة إلى حد كبير. يمين؟ مثل، لماذا لا يقوم صديقي بمراسلتي؟ ما هذا الطفح الجلدي الغريب؟ ماذا سأقدم لوالد زوجي في عيد الميلاد؟ هذه الأسئلة هي نفسها، وبالتالي فإن أنواع المحتوى التي تحاول العلامات التجارية الوصول إليها في تلك الإجابات تظل كما هي إلى حد كبير.
زوي شيفر: صحيح، بالضبط. لكن يمكنك أن تتخيل من وجهة نظر بائع التجزئة، أن هذا أمر مخيف نوعًا ما، لأنه حتى التعامل مع Google كان يمثل صداعًا كبيرًا للناس. في كل مرة تغير فيها Google الخوارزمية، ستحدث ثورة في الصناعة لبعض الوقت حيث يحاولون فهم ما تريد Google رؤيته وتخصيص المحتوى الخاص بهم وفقًا لذلك. والآن، يتحدث الناس إلى برامج الدردشة الآلية وهم يقولون، “Oh my gosh, is all of the work that I’ve put into all of these different webpages for naught? Do I need to recalibrate it for this new world?” لقد تحدثنا بالفعل مع إيمري ماركوس، وهو الرئيس التنفيذي لشركة GEO تدعى Brandlight. وقدر أنه كان هناك تداخل بنسبة 70% تقريبًا بين أهم روابط Google والمصادر التي استشهدت بها أدوات الذكاء الاصطناعي مثل ChatGPT. لكنه يقول الآن إن الارتباط انخفض إلى أقل من 20 بالمائة. لذا، لويز، إذا كنت صاحب عمل صغير من نوع ما، كيف يمكنني تصميم المحتوى الخاص بي؟ ما الذي أفعله بشكل مختلف في هذا العالم الجديد؟
لويز ماتساكيس: أعتقد أن لديك على الأرجح الكثير من التوضيحات حول كيفية استخدام المنتج. لذلك دعونا نقول فقط – لا أعرف – أننا نبيع الصابون. قد يكون لديك قائمة طويلة من الطرق المختلفة التي يمكن من خلالها استخدام الصابون. إنه جيد لحمامات الفقاعات. إنه يتمتع بخصائص مكافحة حب الشباب أو أي شيء آخر، وأعتقد أنك ستوضح كل ذلك. في حين أنه في السابق، كان بإمكانك التركيز أكثر على هوية العلامة التجارية لموقعك على الويب والتركيز على كيف تريد صياغة الأشياء لأنك تتوقع قدوم الأشخاص إلى موقع الويب؟ أنت لا تتوقع وجود هذا الطرف الثالث في المنتصف حيث يطرح الأشخاص أسئلة على برنامج الدردشة الآلية.
زوي شيفر: نعم بالضبط. لقد أعطاني ذلك القليل من الأمل، لأنني أشعر أننا كنا كذلك في عصر، عندما تبحث عن وصفة وعليك أن تقرأ مدونة مكونة من 5000 كلمة عن قصة حياة هذا الشخص قبل أن تصل فعليًا إلى الوصفة. وأنا، مثل برنامج الدردشة الآلي، أريد فقط قائمة المكونات ذات التعداد النقطي. ربما هذا هو المكان الذي نتجه إليه.
بالانتقال إلى قصتنا التالية، أبلغ زملائنا، لورين جود وماكينا كيلي، عن كيفية قيام لجنة التجارة الفيدرالية بحذف العديد من منشورات المدونات حول الذكاء الاصطناعي التي تم نشرها خلال فترة عمل لينا خان. إذا كنت على دراية بـ Lina Kahn، فهي الرئيسة السابقة للجنة التجارة الفيدرالية. ومواقفها المؤيدة للتنظيم تجاه صناعة التكنولوجيا، يمكنك بالفعل أن تتخيل لماذا قد يكون هذا الأمر مقلقًا. إحدى منشورات المدونة التي تمت إزالتها كانت تتعلق بنماذج الذكاء الاصطناعي ذات الوزن المفتوح، وهي في الأساس نماذج يتم إصدارها للعامة، والتي تسمح لأي شخص بفحصها أو تعديلها أو إعادة استخدامها. انتهى الأمر بإعادة توجيه المنشور إلى مكتب التكنولوجيا التابع للجنة التجارة الفيدرالية (FTC). وكان هناك تدوينة أخرى بعنوان “المستهلكون يعبرون عن مخاوفهم بشأن الذكاء الاصطناعي”، والتي كتبها اثنان من خبراء التكنولوجيا في لجنة التجارة الفيدرالية، وكان لها نفس المصير. ومع ذلك، يؤدي منشور آخر حول مخاطر المستهلك المرتبطة بمنتجات الذكاء الاصطناعي الآن إلى ظهور شاشة خطأ تفيد بأنه لم يتم العثور على الصفحة فقط.
لويز ماتساكيس: نعم. أعتقد أن هذا مثير للقلق حقًا لعدد من الأسباب. الأول هو أنه من المهم لأسباب تاريخية، ولأسباب وطنية، عدم فقدان هذه المعلومات. من الطبيعي تمامًا أن يكون لدى الإدارات المختلفة آراء مختلفة، لكن هذا ليس طبيعيًا أو على الأقل، لم يكن من المعتاد في هذا البلد أن تختفي منشورات مدونة مثل هذه. وفي هذه الحالة، إنه أمر غريب بشكل خاص لأن أحد هذه المنشورات كان حول، كما ذكرت، دعم Lina Kahn لنماذج الوزن المفتوح والمصدر المفتوح بشكل عام، وهذا شيء اتفق عليه أعضاء إدارة ترامب أيضًا. أعتقد في هذه الحالة أن لينا خان تقف على نفس الجانب مع أشخاص مثل ديفيد ساكس، وهو قيصر الذكاء الاصطناعي والعملات المشفرة في إدارة ترامب.
إذن، هذا هو الأمر الغامض والمربك نوعًا ما هنا، إذا كانت هذه الأشياء تتفق معها ظاهريًا إدارة ترامب أيضًا، فلماذا محوها؟ هل يتعلق الأمر بمحو إرث لينا كان؟ هل يتعلق الأمر بالرغبة في التخلص من أي ذكر لأشياء حدثت خلال إدارة بايدن؟ من الصعب نوعًا ما تحليل المنطق، وأعتقد أنه يترك الشركات وشركات التكنولوجيا في حيرة من أمرها بشأن موقف الإدارة. الهدف من منشورات المدونة هذه هو، نعم، إعلام الجمهور، ولكنها أيضًا بمثابة إرشادات تنظيمية وتجارية لكي تفهم الشركات مثل، لقد فهمنا أنه ربما لم يتم إصدار قانون بشأن هذا، أو ربما ليس من الواضح ما إذا كانت هذه الممارسة غير قانونية، ولكن يبدو أنها يمكن أن تكون كذلك، أليس كذلك؟ أو يبدو أن هذه هي الطريقة التي تفسر بها هذه الإدارة القانون. وبخلاف ذلك، فأنت نوعًا ما متروك في الظلام.
زوي شيفر: تجدر الإشارة إلى أن هذه ليست المرة الأولى التي تقوم فيها لجنة التجارة الفيدرالية (FTC) في ظل إدارة ترامب بإزالة المنشورات المتعلقة بتنظيم الذكاء الاصطناعي. وفي وقت سابق من هذا العام، قامت لجنة التجارة الفيدرالية بإزالة حوالي 300 منشور يتعلق بالذكاء الاصطناعي وحماية المستهلك والدعاوى القضائية التي رفعتها الوكالة ضد عمالقة التكنولوجيا مثل أمازون ومايكروسوفت. دعونا نغير التروس قليلا. أعدك أن هذا أكثر متعة. لذلك، يوم السبت الماضي، ملأ حوالي سبعة ملايين شخص المدن الأمريكية في أحدث احتجاجات “لا ملوك”، وهي عبارة عن سلسلة من الاحتجاجات على مستوى البلاد تنتقد ما يعتبره المشاركون إجراءات استبدادية من قبل إدارة ترامب. وإذا كنت منتبهًا، فمن المحتمل أنك لاحظت أن هناك عددًا لا بأس به من الأشخاص يرتدون أزياء الضفادع.
لويز ماتساكيس: نعم. هذه الضفادع تحكم، وفي الواقع أستطيع أن أخبركم أن هذه ليست المرة الأولى التي أرى فيها هذه الضفادع. لذا فإن زي الضفدع هذا، رأيته لأول مرة في الصين لأن الناس كانوا يرتدونه في TikToks الفيروسية في الصين. وفي كثير من الأحيان، كانوا يعزفون الصنج بصوت عالٍ ويقومون برقصات البريك دانس المكثفة في مراكز المدن وما إلى ذلك.
زوي شيفر: هناك شيء واحد يتعلق بلويز، وهو أنها ستجد دائمًا الزاوية الصينية، ونحن نحب ذلك لها. هناك حقا واحد في كثير من الأحيان. ولكن اتضح أن هناك في الواقع نوعًا من القصة هنا. هناك تقاليد. قامت زميلتنا، أنجيلا واتركاتر، بدراسة عميقة لما وراء الضفادع والاحتجاجات السياسية. أولاً، أشارت إلى ما هو واضح، وهو أن ارتداء الأزياء يساعد المتظاهرين على تجنب المراقبة. كما أنها تساعدهم أيضًا على مواجهة السرد القائل بأن المتظاهرين هم مثل المتطرفين العنيفين، كما تصفهم إدارة ترامب. تحدثت أنجيلا مع بروكس براون، أحد المبادرين لهذه الحركة المسماة “عملية التضخم”. لقد كانوا يوزعون أزياء قابلة للنفخ مجانًا، وأخبرها أنه من غير المحتمل أيضًا أن يقول أحد المشاهدين، “Maybe the frog deserved it if they get pepper sprayed or something.” إذن هناك استراتيجية حقيقية هنا.
لويز ماتساكيس: نعم. أستطيع أن أرى بالتأكيد مدى صعوبة بيع السرد القائل بأن هؤلاء المتظاهرين يشكلون خطراً عندما يرتدون مجموعة من أزياء الضفادع القابلة للنفخ. وهو أمر مثير للاهتمام حقًا، لأنه منذ حوالي عقد من الزمن، كان الضفدع يعني شيئًا مختلفًا تمامًا. هل تتذكر Pepe the Frog في عام 2015 أو نحو ذلك؟ لقد كان رمزًا لليمين المتطرف. وفي عام 2019، خلال الاحتجاجات المؤيدة للديمقراطية في هونغ كونغ، تبنوا أيضًا الضفدع بيبي، لكن ذلك كان يعني شيئًا مختلفًا في هذا السياق أيضًا. لذلك يبدو أن الضفدع قابل للتكيف بدرجة كبيرة.
زوي شيفر: نعم. لقد عاش الضفدع العديد من الأرواح ويبدو أنه قد أكمل دائرة كاملة. في نهاية الأسبوع الماضي، تم تداول صور على موقع Bluesky لضفدع قابل للنفخ وهو يلكم بيبي في وجهه. لذلك لا يقتصر الأمر على الميمات عبر الإنترنت فقط. وصلت هذه الأزياء إلى المحاكم. ورفعت محكمة الاستئناف الأمريكية للدائرة التاسعة يوم الاثنين الحظر الذي منع نشر الحرس الوطني لترامب في بورتلاند. سوزان جرابر، القاضية المعارضة، وقفت إلى جانب الضفادع وقالت: “Given Portland protesters’ well-known penchant for wearing chicken suits and inflatable frog costumes when expressing their disagreement with the methods deployed by ICE, observers may be tempted to view the majority’s ruling, which accepts the government’s characterization of Portland as a war zone as absurd.” قصة أخرى سريعة قبل أن نذهب إلى الاستراحة. إذا كنت تعيش في مدينة نيويورك، فقد تكون هذه الحكاية مألوفة للأسف. وصلتني أخبار هذا الأسبوع مفادها أن موظفي Google الذين يعملون في أحد فروع الشركة في نيويورك يجب أن يبقوا في منازلهم بسبب تفشي بق الفراش في المكتب.
لويز ماتساكيس: يا إلهي، لن تراني في المكتب لأسابيع إذا كان هناك غزو بق الفراش. كيف اكتشفوا هذا؟
زوي شيفر: لذا، فقد تلقوا هذه الرسالة الإلكترونية يوم الأحد، تفيد بأن خبراء الإبادة قد وصلوا إلى مكان الحادث ومعهم كلاب بوليسية و “found credible evidence of their presence.” هناك، يجري البق. أخبرت المصادر WIRED أن مكاتب Google في نيويورك هي موطن لعدد من الحيوانات المحنطة الكبيرة، ومن المؤكد أن هناك شائعة تدور بين الموظفين بأن هذه الحيوانات المحنطة متورطة في تفشي المرض. لم نتمكن من التحقق من هذه المعلومات قبل نشرها، ولكن على أي حال، أبلغت الشركة الموظفين في وقت مبكر من صباح يوم الاثنين أنه يمكنهم العودة إلى المكتب. والأشخاص مثلك، لويز، لم يكونوا سعداء حقًا بهذا. كانوا مثل، “I’m not sure that it’s totally clean here.” لهذا السبب كانوا في صناديق البريد الوارد لدينا يريدون الدردشة.
لويز ماتساكيس: هل يمكنني فقط أن أقول أنه إذا كان لديك صور أو وصف للحيوانات المحنطة الكبيرة المذكورة، فيرجى الاتصال بي وبزوي. شكرًا لك.
زوي شيفر: نعم. هذه صرخة طلبا للمساعدة. اعتقدت أن أفضل جزء من هذا هو عندما أعطيت لويز مسودتي، قالت: “Wait, this has happened before.” وسحبت مقالة عام 2010 حول تفشي بق الفراش في مكاتب جوجل في نيويورك.
لويز ماتساكيس: نعم. هذه ليست المرة الأولى، وهذا أمر مفجع.
زوي شيفر: بعد الاستراحة، نتعمق في سبب قيام بعض الأشخاص بتقديم شكاوى إلى لجنة التجارة الفيدرالية بشأن ChatGPT في أذهانهم، مما يؤدي بهم إلى ذهان الذكاء الاصطناعي. ابق معنا.
مرحبا بكم مرة أخرى في وادي غريب. أنا زوي شيفر. لقد انضممت إليّ اليوم لويز ماتساكيس من WIRED. دعونا نتعمق في قصتنا الرئيسية هذا الأسبوع. تلقت لجنة التجارة الفيدرالية 200 شكوى تشير إلى ChatGPT من OpenAI في الفترة ما بين نوفمبر 2022 عند إطلاقه، وأغسطس 2025. وكان لدى معظم الأشخاص شكاوى عادية. لم يتمكنوا من معرفة كيفية إلغاء اشتراكهم أو شعروا بالإحباط بسبب الإجابات غير المرضية أو غير الدقيقة التي يقدمها برنامج الدردشة الآلي. لكن من بين هذه الشكاوى، وجدت زميلتنا كارولين هاسكينز أن العديد من الأشخاص نسبوا الأوهام وجنون العظمة والأزمة الروحية إلى برنامج الدردشة الآلي.
اتصلت امرأة من سولت ليك سيتي بلجنة التجارة الفيدرالية في شهر مارس لتبلغها أن ChatGPT نصحت ابنها بعدم تناول أدويته الموصوفة وأخبرته أن والديه خطيران. شكوى أخرى كانت من شخص ادعى أنه بعد 18 يومًا من استخدام ChatGPT، قام OpenAI بسرقة بياناته “sole print” لإنشاء تحديث برنامج تم تصميمه لتحويل هذا الشخص المعين ضد نفسه. قالوا، “I’m struggling, please help me. I feel very alone.” هناك مجموعة من الأمثلة الأخرى، لكني أشعر بالفضول للحديث معك عن هذا، لأن لويز، أعلم أن ذهان الذكاء الاصطناعي هو شيء كنت تقوم بالكثير من الأبحاث عليه على وجه التحديد.
لويز ماتساكيس: نعم. أعتقد أنه من المهم أن نوضح ما الذي نعنيه بذهان الذكاء الاصطناعي؟ الأمر المثير للاهتمام والجدير بالملاحظة بالنسبة لي بشأن برامج الدردشة الآلية ليس أنها تجعل الناس يعانون من الأوهام، ولكنها في الواقع تشجع الأوهام. وهذا نوع من المشكلة، وهو أن هذا التفاعل هو الذي يؤكد صحة قول الأشخاص مثل، “Yeah, the paranoia you’re experiencing is totally valid.” أو مثل، “Would you like me to unpack why it’s definitely the case that your friends and families are conspiring against you?”
المشكلة هي أنها تفاعلية ويمكن أن تشجع الناس على التطور بشكل أكبر. كان هناك دائمًا أشخاص يعانون من أزمات الصحة العقلية ويتلقون إشارات لا ينبغي عليهم فعلها، معتقدين أن الرقم الذي رأوه في مكان ما يشير إلى أنهم المسيح أو أن شيئًا رأوه على وسائل التواصل الاجتماعي يعكس حقيقة أنهم مراقبون، أو أن مكتب التحقيقات الفيدرالي يسعى للقبض عليهم، أو أيًا كان. لكن الآن، لدينا هذه الأدوات التي تتمتع بطاقة لا نهاية لها ويمكنها الاستمرار، ويمكنها الاستجابة بشكل مباشر لتلك الأوهام وتشجيعها، والتعامل على وجه التحديد مع ما يختبره هذا الشخص بالضبط، بدلاً من شخص آخر قد يقول، “Hey, you don’t seem to be well,” أو شيء مادي في العالم، أن علامة الشارع أو شيء ما لن تومض بعد ذلك برقم آخر ويقول مثل، “You’re right. That’s your lucky number. That’s a sign from God,” أو أيا كان. انها تفاعلية حقا.
زوي شيفر: نعم. أشعر وكأنك وصلت إلى شيء كنا نتحدث عنه كثيرًا، وهو، بأي طريقة يختلف هذا عن التحولات التكنولوجية الأخرى التي حدثت، والتي ارتبطت بارتفاعات معينة في الأمراض العقلية؟
لويز ماتساكيس: نعم. أعتقد أن المرض العقلي كان دائمًا جزءًا من جنسنا البشري. لقد غيرت التطورات التكنولوجية الجديدة دائمًا كيفية فهمنا للجنون، لكنني أعتقد أننا نرى ذلك يحدث مرة أخرى في هذه الحالة وأن هذا حقًا شيء جديد. وينبغي لنا أن نلاحظ أيضًا أن شكاوى لجنة التجارة الفيدرالية هذه هي جزء من عدد متزايد من الحوادث الموثقة لما يسمى ذهان الذكاء الاصطناعي، حيث أدت التفاعلات مع روبوتات الدردشة المنتجة للذكاء الاصطناعي مثل ChatGPT، وأيضًا Google Gemini، إلى تحفيز أوهام المستخدمين أو تفاقمها. ونحن نعلم أن هذا أدى إلى عدد من حالات الانتحار. كما أعتقد أن ChatGPT متورط في جريمة قتل واحدة على الأقل. لذلك نحن نوعًا ما نرى أن شيئًا ما يحدث هنا ولا أعتقد أننا نفهمه تمامًا.
زوي شيفر: يمين. ومن المثير للاهتمام النهج الذي تتبعه OpenAI في هذه اللحظة. لأنك وأنا تحدثنا إلى الأشخاص في الشركة بشكل مكثف، ومن الواضح أنهم يأخذون هذا الأمر على محمل الجد. إنهم يهتمون بما يحدث، وقد طرحوا عددًا من ميزات السلامة. لكن ما لم يفعلوه هو قول مثل، “We’re going to shut these conversations down when they happen. We’re just not going to engage.” لقد قاموا بدلاً من ذلك بالتشاور مع خبراء الصحة العقلية. لديهم الآن مجلس من المستشارين المحترفين في هذا المجال، وهم يقولون حقًا نسخة ما، “Look, people turn to us oftentimes when they don’t have anyone else to talk to, and we don’t think the right thing is to shut it down.” وهو ما لا أعرفه، في رأيي، فإنه يعرض OpenAI لقدر كبير من المسؤولية.
لويز ماتساكيس: إنه كذلك بالتأكيد، وأعتقد أن الحقيقة هي أنهم لا يفهمون هذا أيضًا. مع أي نوع من التكنولوجيا الجديدة، ستكون هناك دائمًا مخاطر. أعتقد أن هذا مختلف وجدير بالملاحظة ومثير للقلق، ولكن ليس من الواضح بالنسبة لي بالضرورة أن إغلاق المحادثة أو توجيه الأشخاص للتحدث مع شخص آخر في حياتهم، أن النتيجة ستتغير وأنه من الصعب أيضًا معرفة مدى جدية شخص ما. لقد كتبت عنها، وقمت بتحرير القصة التي كتبتها يا زوي، والتي أظهرت أنه في بعض الأحيان تنزلق روبوتات الدردشة هذه إلى لعب الأدوار، وهذا ما يريده الناس، أليس كذلك؟ إنهم مثل تمثيل الخيال. ربما يعملون على كتاب خيال علمي، أو ينخرطون في ما يعادل الأزياء التنكرية أو خيال المعجبين، أليس كذلك؟ والخط الفاصل بين التخيل واستكشاف الأسرار المظلمة وتصديق كل تلك الأشياء، واستيعابها وفقدان قبضتك على الواقع، أعتقد أنه أكثر دقة مما قد نعتقده أو مما نريده أن يكون.
زوي شيفر: يمين. نعم نعم. تسير الشركة في هذا الخط المثير للاهتمام في الوقت الحالي. من ناحية، يقال بشكل علني للغاية، “We want to treat adults like adults. We want to allow people a lot of freedom in how they interact with ChatGPT if they’re over a certain age.” ومن ناحية أخرى، فإنهم يتعاملون مع حالات الاستخدام التي يحتمل أن تكون حساسة للغاية ويقومون بصد العديد من الدعاوى القضائية في وقت واحد. لذلك سيكون من الغريب حقًا أن نرى كيف يتطور كل هذا.
لويز ماتساكيس: قطعاً. أعتقد أن ما أود رؤيته حقًا، ولا أعرف إذا كان هذا ممكنًا، نظرًا لأن هذه الدعاوى القضائية لا تزال مستمرة، لكنني أريد أن أرى تجربة سريرية. أعتقد أنه سيكون من القوي جدًا بالنسبة لـ OpenAI أن تقدم الكثير من هذه البيانات بشكل واضح، مجهولة المصدر. لكن أعط هذه البيانات لخبراء الصحة العقلية الذين يمكنهم بعد ذلك النظر في هذا الأمر بشكل منهجي. لأنني أعتقد أن الشيء المخيف هو أن المتخصصين في الصحة العقلية يطيرون عمياء. لقد تحدثت إلى عدد منهم ممن لا يستخدمون بالضرورة ChatGPT كثيرًا، لذا فهم لا يعرفون حتى كيفية التعامل مع مريض يتحدث عن هذه الأشياء، لأنها غير مألوفة وكل هذا جديد تمامًا. ولكن إذا كان لدينا بحث مفتوح قوي ومراجع من قبل النظراء ويمكننا القول، “Okay, we know what this looks like and we can create protocols to ensure that people remain safe,” أعتقد أن ذلك سيكون خطوة جيدة حقًا نحو اكتشاف ذلك.
زوي شيفر: بالكامل. من المفاجئ بالنسبة لي دائمًا كيف أن الأشخاص الذين لديهم قدر كبير من المعرفة حول كيفية عمل هذه التقنيات، ينزلقون إلى روبوتات الدردشة المجسمة أو يخصصون ذكاءً أكبر مما قد يكون لديهم بالفعل. يمكنك أن تتخيل الشخص العادي الذي ليس متعمقًا في علم نماذج اللغات الكبيرة، فمن السهل حقًا أن تنبهر تمامًا بما يمكنه فعله وتبدأ في فقدان السيطرة على ما تتفاعل معه بالفعل.
لويز ماتساكيس: أوه تماما. لقد أصبحنا جميعًا اجتماعيين الآن لنأخذ الكثير من المعاني من النص، أليس كذلك؟ الكثير منا، الطريقة الأساسية التي نتواصل بها مع أحبائنا، خاصة إذا كنا لا نعيش معًا، هي من خلال الرسائل النصية، أليس كذلك؟ يبدو الأمر كما لو أن لديك هذه الواجهة المشابهة مع برنامج الدردشة الآلي هذا. ليس من غير المعتاد ألا تسمع بالضرورة صوت روبوت الدردشة، على الرغم من أنه يمكنك التواصل مع ChatGPT باستخدام الصوت الآن، لكننا تدربنا بالفعل على أخذ الكثير من المعاني من النص للاعتقاد بوجود شخص على الطرف الآخر من هذا النص. وهناك الكثير من الأدلة التي تظهر أننا لم نعد نتواصل اجتماعيًا كما كنا نفعل في السابق. يشعر الناس بالوحدة. يشعرون بأنهم أقل ارتباطًا بمجتمعاتهم. لديهم عدد أقل من الأصدقاء المقربين. أعتقد أننا كنا مستعدين حقًا للشعور بهذه الطريقة، وأعتقد أنه لا ينبغي للناس أن يخجلوا إذا شعروا بهذه الطريقة أو اعتقدوا أن هناك خطأ ما فيهم.
من الطبيعي تمامًا أن تشارك مع هذا الكيان الذي يولي الكثير من الاهتمام لك، والذي يرغب في الاستماع إلى كل ما تريد التحدث عنه، وفي كثير من الأحيان، يكون متملقًا حقًا ويصدقك حقًا. جزء من وجود علاقة صحية مع إنسان آخر هو أنهم لن يقوموا دائمًا بالتحقق منك، أليس كذلك؟ سيكون لديهم حدود. سيكون لديهم حدود. وأعتقد أنه يمكن أن يكون مغريًا حقًا أن يكون لديك هذا الحضور الذي لا يحتوي على أي من تلك الحدود ولا يمل أبدًا من التحدث معك، ولا يعتقد أبدًا أنك مخطئ. ومن الطبيعي أن تشعر بهذه الطريقة، ولكن السؤال هو، كيف نصنع حواجز حماية؟
زوي شيفر: صحيح، بالضبط. أعتقد أننا رأينا على المستوى الوطني ما يحدث عندما تكون محاطًا بأشخاص يتفقون معك مهما كان الأمر، وهذا ليس جيدًا.
لويز ماتساكيس: لا، انها ليست رائعة.
زوي شيفر: لويز، شكرًا جزيلاً لانضمامك إليّ اليوم.
لويز ماتساكيس: شكرا جزيلا لاستضافتي.
زوي شيفر: هذا هو عرضنا لهذا اليوم. سنقوم بربط جميع القصص التي تحدثنا عنها في ملاحظات العرض. تأكد من إطلاعك على حلقة الخميس من وادي غريب، والذي يدور حول سبب وصول ازدهار البنية التحتية للذكاء الاصطناعي والمخاوف المحيطة به إلى درجة الحمى الكاملة. أدريانا أنتجت تابيا هذه الحلقة. عمار لال في ماكرو ساوند مختلط هذه الحلقة. كيت أوزبورن هي منتجتنا التنفيذية. رئيس كوندي ناست للصوت العالمي هو كريس بانون. وكاتي دروموند هي مديرة التحرير العالمية لـ WIRED.