غير الاتجاه، تيك توك، Ofcom، الجهة التنظيمية في المملكة المتحدة التي تطبق الآن رسمي يستعد قانون السلامة على الإنترنت لتحديد حجم هدف أكبر: محركات البحث مثل Google وBing والدور الذي تلعبه في تقديم إيذاء النفس والانتحار والمحتويات الضارة الأخرى بنقرة زر واحدة، خاصة للمستخدمين القاصرين.
وجد تقرير بتكليف من Ofcom وأنتجه معهد أبحاث عدوى الشبكات أن محركات البحث الرئيسية، بما في ذلك Google وMicrosoft Bing وDuckDuckGo وYahoo وAOL، أصبحت “بوابات بنقرة واحدة” لمثل هذا المحتوى من خلال تسهيل الوصول السهل والسريع إلى صفحات الويب. الصور ومقاطع الفيديو – مع وجود واحدة من كل خمس نتائج بحث حول المصطلحات الأساسية التي تلحق الأذى بالنفس والتي ترتبط بمزيد من المحتوى الضار.
يأتي البحث في الوقت المناسب وهو مهم لأن الكثير من التركيز على المحتوى الضار عبر الإنترنت في الآونة الأخيرة كان حول تأثير واستخدام مواقع التواصل الاجتماعي المسورة مثل انستغرام و تيك توك. يعد هذا البحث الجديد، إلى حد كبير، خطوة أولى في مساعدة Ofcom على فهم وجمع الأدلة حول ما إذا كان هناك تهديد محتمل أكبر بكثير، حيث تجتذب المواقع المفتوحة مثل Google.com أكثر من 80 مليار زيارة شهريًا، مقارنة بـ TikTok النشط شهريًا. المستخدمين حوالي 1.7 مليار.
وقالت ألمودينا لارا، مديرة تطوير سياسات السلامة عبر الإنترنت في Ofcom، في بيان: “إن محركات البحث غالبًا ما تكون نقطة البداية لتجربة الأشخاص عبر الإنترنت، ونحن قلقون من أنها يمكن أن تكون بمثابة بوابات بنقرة واحدة لمحتوى ضار للغاية يلحق الضرر بالنفس”. . “تحتاج خدمات البحث إلى فهم مخاطرها المحتملة وفعالية تدابير الحماية الخاصة بها – خاصة للحفاظ على أمان الأطفال على الإنترنت – قبل مشاورتنا واسعة النطاق المقرر عقدها في الربيع.”
وقالت أوفكوم إن الباحثين قاموا بتحليل حوالي 37 ألف رابط نتيجة عبر محركات البحث الخمسة هذه من أجل التقرير. باستخدام مصطلحات البحث الشائعة والأكثر تشفيرًا (مبهمة لمحاولة التهرب من الفحص الأساسي)، أجروا عمليات بحث عمدًا لإيقاف أدوات الفحص الأبوي “البحث الآمن”، لتقليد الطرق الأساسية التي قد يتفاعل بها الأشخاص مع محركات البحث بالإضافة إلى أسوأ الطرق. -سيناريوهات الحالة.
وكانت النتائج في كثير من النواحي سيئة ومدمرة كما قد تتخيل.
لم يقتصر الأمر على أن 22% من نتائج البحث تنتج روابط بنقرة واحدة لمحتوى ضار (بما في ذلك تعليمات حول أشكال مختلفة من إيذاء النفس)، ولكن هذا المحتوى يمثل 19% من الروابط الأعلى في النتائج (و 22 % من الروابط أسفل الصفحات الأولى من النتائج).
ووجد الباحثون أن عمليات البحث عن الصور كانت فظيعة بشكل خاص، حيث أعادت 50% منها محتوى ضارًا لعمليات البحث، تليها صفحات الويب بنسبة 28% والفيديو بنسبة 22%. ويخلص التقرير إلى أن أحد أسباب عدم فحص محركات البحث لبعض هذه العناصر بشكل أفضل هو أن الخوارزميات قد تخلط بين صور إيذاء النفس والوسائط الطبية وغيرها من الوسائط المشروعة.
وكانت مصطلحات البحث المبهمة أيضًا أفضل في تجنب خوارزميات الفحص: مما أدى إلى زيادة احتمال وصول المستخدم إلى محتوى ضار بمقدار ستة أضعاف.
الشيء الوحيد الذي لم يتم التطرق إليه في التقرير، ولكن من المرجح أن يصبح مشكلة أكبر بمرور الوقت، هو الدور الذي قد تلعبه عمليات البحث التوليدية للذكاء الاصطناعي في هذا المجال. حتى الآن، يبدو أنه تم وضع المزيد من الضوابط لمنع إساءة استخدام منصات مثل ChatGPT لأغراض سامة. سيكون السؤال هو ما إذا كان المستخدمون سيكتشفون كيفية اللعب بذلك، وما قد يؤدي إليه ذلك.
“إننا نعمل بالفعل على بناء فهم متعمق للفرص والمخاطر التي تنطوي عليها التقنيات الجديدة والناشئة، حتى يزدهر الابتكار، مع حماية سلامة المستخدمين. من المحتمل أن تكون بعض تطبيقات الذكاء الاصطناعي التوليدي ضمن نطاق قانون السلامة عبر الإنترنت ونتوقع أن تقوم الخدمات بتقييم المخاطر المتعلقة باستخدامها عند إجراء تقييم المخاطر الخاصة بها، “قال متحدث باسم Ofcom لـ TechCrunch.
الأمر ليس مجرد كابوس: فقد تم أيضًا وضع علامة على حوالي 22% من نتائج البحث لكونها مفيدة بطريقة إيجابية.
ربما يتم استخدام التقرير من قبل Ofcom للحصول على فكرة أفضل عن المشكلة المطروحة، ولكنه أيضًا إشارة مبكرة لموفري محركات البحث حول ما سيحتاجون إلى الاستعداد للعمل عليه. أوفكوم لديها لقد كانت واضحة بالفعل لنقول إن الأطفال سيكونون محور التركيز الأول في تطبيق قانون السلامة عبر الإنترنت. وفي الربيع، تخطط أوفكوم لفتح مشاورة حول قواعد ممارسة حماية الأطفال، والتي تهدف إلى تحديد “الخطوات العملية التي يمكن لخدمات البحث أن تتخذها لحماية الأطفال بشكل مناسب”.
وسيتضمن ذلك اتخاذ خطوات لتقليل فرص تعرض الأطفال لمحتوى ضار حول موضوعات حساسة مثل الانتحار أو اضطرابات الأكل عبر الإنترنت بالكامل، بما في ذلك محركات البحث.
وقال المتحدث باسم Ofcom: “يمكن لشركات التكنولوجيا التي لا تأخذ هذا الأمر على محمل الجد أن تتوقع من Ofcom اتخاذ الإجراء المناسب ضدها في المستقبل”. وسيشمل ذلك الغرامات (التي قالت Ofcom إنها ستستخدمها فقط كملاذ أخير) وفي أسوأ السيناريوهات، أوامر المحكمة التي تطلب من مزودي خدمات الإنترنت منع الوصول إلى الخدمات التي لا تمتثل للقواعد. من المحتمل أيضًا أن يكون هناك المسؤولية الجنائية للمديرين التنفيذيين الذين يشرفون على الخدمات التي تنتهك القواعد.
حتى الآن، اعترضت جوجل على بعض نتائج التقرير وكيفية وصف جهودها، مدعية أن أدوات الرقابة الأبوية لديها تقوم بالكثير من العمل المهم الذي يبطل بعض هذه النتائج.
وقال متحدث باسم الشركة في بيان لموقع TechCrunch: “نحن ملتزمون تمامًا بالحفاظ على أمان الأشخاص عبر الإنترنت”. “لا تعكس دراسة Ofcom الضمانات التي نطبقها على بحث Google والمصطلحات المرجعية التي نادرًا ما يتم استخدامها في البحث. يتم تشغيل ميزة البحث الآمن لدينا، والتي تقوم بتصفية نتائج البحث الضارة والصادمة، بشكل افتراضي للمستخدمين الذين تقل أعمارهم عن 18 عامًا، في حين يتم تشغيل إعداد تمويه البحث الآمن – وهي ميزة تعمل على تشويش الصور الفاضحة، مثل محتوى إيذاء النفس – بشكل افتراضي لجميع الحسابات. نحن نعمل أيضًا بشكل وثيق مع المنظمات المتخصصة والجمعيات الخيرية للتأكد من أنه عندما يأتي الأشخاص إلى بحث Google للحصول على معلومات حول الانتحار أو إيذاء النفس أو اضطرابات الأكل، تظهر لوحات موارد دعم الأزمات في أعلى الصفحة.
ولم تستجب Microsoft وDuckDuckGo حتى الآن لطلب التعليق.