على مدى قسم كبير من تاريخ الحوسبة، كان من الآمن إلى حد معقول الافتراض أن الآلة كانت تفعل ما تطلب منها أن تفعله (وما وعد منشئوها بأنها ستفعله)، لأن عملياتها كانت محلية.
حالة الثقة على الإنترنت
في كل مرة تستخدم فيها جهاز كمبيوتر متصل بالإنترنت، فإنك تثق بشخص ما (وعلى الأرجح عدد كبير) ليتصرف نيابة عنك.
- أجهزة التلفاز معروفة على نطاق واسع بالتجسس على أنشطة مستخدميها دون موافقة.
- ميتا قرر فك تشفير حركة المرور الخاصة من هواتف مستخدمي ‘البحث’. للخدمات المنافسة وتخزينها على خوادمهم الخاصة.
- السماح لـ Netflix بالوصول إلى الرسائل المباشرة الخاصة بالمستخدمين، وخلق دعوى قضائية أخرى.
وكلاء المستخدم هم شكل من أشكال المساومة الجماعية
على الرغم من أنه من الصعب الوثوق بأي شخص على الإنترنت في ضوء الأمثلة المذكورة أعلاه، إلا أن الأمر قد يكون أسوأ بكثير.
لماذا يحتاج الذكاء الاصطناعي إلى وكالة المستخدم
من الصعب جدًا التنبؤ بكيفية تغيير النماذج اللغوية الكبيرة للعالم على المدى الطويل.