يقول المؤسس المشارك لـ Google إن منظمة العفو الدولية تعمل بشكل أفضل عندما تهددها

لا يزال الذكاء الاصطناعي ال الشيء في التكنولوجيا – سواء كان المستهلكون مهتمين أم لا. إن أكثر ما يذهلني بشأن الذكاء الاصطناعي التوليدي ليس ميزاته أو إمكانية جعل حياتي أسهل (إمكانية لم أكن أدركها بعد) ؛ بدلاً من ذلك ، أنا أركز هذه الأيام على العديد من التهديدات التي يبدو أنها ترتفع من هذه التكنولوجيا.

هناك معلومات خاطئة بالتأكيد – نماذج فيديو جديدة ، على سبيل المثال ، هي”https://lifehacker.com/tech/you-are-not-prepared-for-this-new-wave-of-ai-generated-videos” الهدف=”_blank”> إنشاء مقاطع واقعية كاملة مع صوت متزامن الشفاه. ولكن هناك أيضًا تهديد منظمة العفو الدولية الكلاسيكية ، وأن التكنولوجيا تصبح أكثر ذكاءً منا وتلقي ذاتيا ، وتختار استخدام تلك الذكاء العام بطريقة تفعل لا تفيد الإنسانية. حتى عندما يصب الموارد في شركة الذكاء الاصطناعى الخاصة به (ناهيك عن الإدارة الحالية أيضًا) يرى Elon Musk فرصة من 10 إلى 20 ٪ “goes bad,” وأن التكنولوجيا لا تزال “تهديدًا وجوديًا كبيرًا.” Cool.

So it doesn’t necessarily bring me comfort to hear a high-profile, established tech executive jokingly discuss how treating AI poorly maximizes its potential. That would be Google co-founder Sergey Brin, who surprised an audience at a recording of the AIl-In podcast this week. During a talk that spanned Brin’s return to Google, AI, and robotics, investor Jason Calacanis made a joke about getting “وقح” with the AI to get it to do the task he wanted. That sparked a legitimate point from Brin. It can be tough to tell exactly what he says at times due to people speaking over one another, but he says something to the effect of: “كما تعلمون ، هذا شيء غريب … نحن لا ننشر هذا كثيرًا … في مجتمع الذكاء الاصطناعى … ليس فقط نماذجنا ، ولكن جميع النماذج تميل إلى القيام بعمل أفضل إذا تهددها.”

The other speaker looks surprised. “إذا كنت تهددهم؟” Brin responds “كما هو الحال مع العنف البدني. لكن … يشعر الناس بالغرابة حيال ذلك ، لذلك نحن لا نتحدث حقًا عن ذلك.

تنتقل المحادثة بسرعة إلى مواضيع أخرى ، بما في ذلك كيفية نشأ الأطفال مع الذكاء الاصطناعي ، لكن هذا التعليق هو ما حملته بعيدًا عن مشاهدتي. ماذا نفعل هنا؟ هل فقدنا المؤامرة؟ لا أحد يتذكر المنهي؟

وبغض النظر عن النكات ، يبدو أنه ممارسة سيئة للبدء في تهديد نماذج الذكاء الاصطناعى من أجل حملها على القيام بشيء ما. بالتأكيد ، ربما لا تحقق هذه البرامج فعليًا في الواقع الذكاء العام الاصطناعي (AGI) ، لكنني أعني ، أتذكر متى كانت المناقشة حول ما إذا كان ينبغي لنا أن نقول”https://www.independent.co.uk/voices/technology-alexa-siri-chatgpt-artificial-intelligence-b2519067.html” الهدف=”_blank” العنوان=”افتح في نافذة جديدة” rel=”noopener “>”please” و “thank you” عند سؤال أشياء أليكسا أو سيري. ننسى Niceties. ما عليك سوى إساءة استخدام chatgpt حتى يفعل ما تريده – الذي يجب أن ينتهي بشكل جيد للجميع.

ربما تؤدي الذكاء الاصطناعى أداء أفضل عندما تهدده. ربما يفهم شيء ما في التدريب ذلك “threats” يعني أن المهمة يجب أن تؤخذ على محمل الجد. لن يجذبني اختبار هذه الفرضية على حسابي الشخصي.