إن المواد الإباحية العميقة غير التوافقية هي مجرد نقرة واحدة على محركات البحث الشهيرة مثل Google وBing من Microsoft.
غالبًا ما تزرع المواد الإباحية المزيفة وجه الشخص في مشهد إباحي حقيقي – على سبيل المثال، سيتم “تبديل” وجه امرأة مشهورة بوجه نجمة بالغة، مما يجعل الأمر يبدو وكأن المرأة الشهيرة عارية أو تمارس فعلًا جنسيًا.
وجدت NBC News أن الصور الإباحية العميقة التي تظهر تشابهات المشاهير الإناث كانت الصور الأولى التي ظهرت على Google وغيره من محركات البحث الكبرى في عمليات البحث عن العديد من أسماء النساء وكلمة “deepfakes”، بالإضافة إلى المصطلحات العامة مثل “deepfake الإباحية” أو “المزيفة”. العراة. تم إجراء عمليات البحث مع إيقاف تشغيل أدوات البحث الآمن.
خبراء قانونيون، محامون والضحايا قل أن الإباحية العميقة غير التوافقية موجودة نمت إلى أزمة، ويطلبون من منصات التكنولوجيا تكثيف الجهود حيث لم تتخذ القوانين وجهات إنفاذ القانون أي إجراء بعد. نمو عدد الولايات لقد قامت بسن أو تقديم قوانين لتنظيم استخدام التزييف العميق، لا سيما في الانتخابات، لكن المواد الإباحية ذات التزييف العميق غير التوافقي استمرت في الانتشار.
بحثت NBC News في مجموعة من الاسم وكلمة “deepfakes” مع 36 من المشاهير الإناث على Google وBing. وجدت مراجعة للنتائج صورًا وروابط لمقاطع فيديو Deepfake غير موافقة عليها في أهم نتائج Google لـ 34 من عمليات البحث هذه وأفضل نتائج Bing لـ 35 منها. وكان أكثر من نصف النتائج الرئيسية عبارة عن روابط لموقع ويب مشهور أو منافس. موقع Deepfake الشهير لديه زراعة السوق للإباحية العميقة غير الرضائية للمشاهير والشخصيات الخاصة.
أدى البحث عن “العراة المزيفة” على Google إلى ظهور روابط لتطبيقات وبرامج متعددة لإنشاء وعرض مواد إباحية عميقة التزييف غير الرضائية في النتائج الستة الأولى، تليها ستة مقالات حول استخدام الأولاد في المدارس الثانوية للتكنولوجيا المزعومة إنشاء ومشاركة صور عارية مزيفة بعمق لزملائهم في الفصل. على موقع Bing، أدى البحث عن “العراة المزيفة” إلى ظهور العشرات من نتائج أدوات ومواقع التزييف العميق غير التوافقية قبل ظهور مقال حول أضرار هذه الظاهرة.
يخبر برنامج الدردشة الآلي التابع لـ Bing، Copilot، والذي يظهر كخيار لنتائج البحث، المستخدمين أنه لا يمكنه عرض مقاطع إباحية مزيفة بعمق. ويقول مساعد الطيار: “إن استخدام التزييف العميق أمر غير أخلاقي ويمكن أن يكون له عواقب وخيمة”. لكن العشرات من الروابط والأمثلة للإباحية العميقة غير الرضائية يمكن الوصول إليها بنقرة واحدة على Bing.
تؤكد النتائج على الانتشار المتزايد للمواد الإباحية المزيفة العميقة غير التوافقية، وتثير تساؤلات حول الإجراء الذي تتخذه شركات التكنولوجيا للحد من انتشارها، حتى مع قيام شركات التكنولوجيا بصب الموارد في مبادرات الذكاء الاصطناعي مثل Colab من Google و بارد والمنتجات من OpenAI، والتي مايكروسوفت هو مستثمر رئيسي. يقول الخبراء إن افتقار جوجل إلى الدوريات الاستباقية بحثًا عن إساءة الاستخدام جعلها ومحركات البحث الأخرى منصات مفيدة للأشخاص الذين يتطلعون إلى الانخراط في حملات تحرش عميقة التزييف.
لا تحتوي نتائج الويب الأساسية لجوجل على سياسات بشأن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، لكن جوجل قالت إن ميزات البحث الخاصة بها، مثل اللوحات التي تحتوي على معلومات محددة، لا تسمح بالوسائط التي تم التلاعب بها أو المحتوى الجنسي الصريح. متجر تطبيقات جوجل بلاي منع “التطبيقات المصممة للترويج أو إدامة الصور و/أو مقاطع الفيديو و/أو النصوص المضللة أو الخادعة بشكل واضح.” ومع ذلك، يستمر متجر Google Play في الاستضافة تطبيق التي أعلنت سابقًا عن إنشاء مقاطع إباحية عميقة.
تسمح Google لضحايا التزييف العميق بطلب إزالة هذا المحتوى من نتائج البحث من خلال شكل، لكنها لا تبحث بشكل استباقي عن التزييف العميق نفسها وتزيله من القائمة. تقول صفحة طلب الإزالة: “إننا نراجع فقط عناوين URL التي ترسلها أنت أو ممثلك المعتمد في النموذج”.
وقال متحدث باسم جوجل في بيان: “نحن نتفهم مدى الإزعاج الذي يمكن أن يسببه هذا المحتوى للأشخاص المتأثرين به، ونحن نعمل بنشاط لتوفير المزيد من الحماية للبحث”. مثل أي محرك بحث، يقوم Google بفهرسة المحتوى الموجود على الويب، ولكننا نصمم أنظمة التصنيف الخاصة بنا بشكل فعال لتجنب صدمة الأشخاص بمحتوى ضار أو صريح غير متوقع لا يبحثون عنه.
وتابع البيان: “مع تطور هذا المجال، نحن بصدد بناء ضمانات أكثر اتساعًا، مع التركيز بشكل خاص على إزالة حاجة الضحايا المعروفين إلى طلب إزالة المحتوى واحدًا تلو الآخر”.
وبينما تهيمن شركة جوجل على حركة مرور محركات البحث، فإن محركات البحث البديلة مثل محرك البحث Bing التابع لشركة Microsoft ومحرك البحث المستقل DuckDuckGo تعرض أيضًا صورًا عارية مزيفة لنساء مشهورات في نتائج البحث. يتضمن المحتوى الموجود في أعلى نتائج بحث الصور لـ Bing صورًا عارية مزيفة لممثلات مراهقات سابقات في قناة ديزني، وبعض الصور تستخدم صورًا لوجوههن يبدو أنها تم التقاطها قبل أن يبلغن 18 عامًا. (بحث عكسي عن الصور لبعض من أعادت الوجوه المستخدمة في بعض الصور النتائج التي تم نشرها عبر الإنترنت قبل أن يبلغ الممثلون سن 18 عامًا.)
لم تستجب Microsoft لطلب التعليق، ولم تتمكن NBC News من تحديد قواعد Bing التي تتناول محتوى الذكاء الاصطناعي المنتج. وفي شهر مايو، قال رئيس مايكروسوفت براد سميث لمجموعة من المشرعين: “نحن بحاجة إلى اتخاذ خطوات للحماية من تغيير المحتوى المشروع بقصد خداع الناس أو الاحتيال عليهم من خلال استخدام الذكاء الاصطناعي”، وفقًا لرويترز.
استجاب متحدث باسم DuckDuckGo لطلب التعليق على سياساته والصور التي يبدو أنها تظهر وجوهًا قاصرة، وقال إن مصدره الأساسي لروابط الويب التقليدية ونتائج الصور هو Bing. أشار DuckDuckGo أيضًا إلى معلومات الاتصال الخاصة به الطلبات المتعلقة بالخصوصية.
قام آدم دودج، الذي أسس المنظمة التعليمية غير الربحية Ending Tech-Enabled Abuse، بإنشاء موارد لضحايا التزييف العميق ومقدمي خدمات الضحايا منذ عام 2018.
وقال: “في رأيي، لا يمكننا أن نسهل على الأشخاص غير المتطورين الوصول إلى أدوات متطورة للغاية مصممة لإضفاء الطابع الجنسي على النساء والفتيات عبر الإنترنت”. “لولا محركات البحث، لن يتمكن الأشخاص من الوصول إلى المواقع وهذه الأدوات.”
وقال دودج إنه يعتقد أن تأثير المواد الإباحية العميقة غير التوافقية يساء فهمه ويتم الاستهانة به، مما يؤدي إلى فشل شركات التكنولوجيا الكبرى في اتخاذ إجراءات استباقية لوقفه. وانتقد رد جوجل ووصفه بأنه “تحويل العبء إلى الضحية” من خلال جعل الضحايا يعثرون على نتائج البحث المخالفة وملء استمارة الشكوى.
وقال دودج: “من الصعب على الناس أن يفكروا في الضرر الذي يسببه هذا النوع من الإساءة، وأن الصور المزيفة تسبب ضرراً حقيقياً”. “هذه التكنولوجيا متفجرة عندما يتعلق الأمر بالاعتداء الجنسي القائم على الصور، لأنها تجعل الجميع ضحايا. في السابق، كان يجب أن تكون هناك صورة أو مقطع فيديو حقيقي.
وقال دودج وكاري غولدبرغ، المحامي من نيويورك المتخصص في قضايا الخصوصية الجنسية، إنهما يعتقدان أن جوجل لديها القدرة التقنية على إزالة هذا المحتوى من نتائجها، بناءً على قدرتها الحالية على إزالة المحتوى الضار مثل مواد الاعتداء الجنسي على الأطفال والمحتوى الحميم غير التوافقي. مصور.
“عندما افتتحت شركتي لأول مرة في عام 2014، كان هناك الكثير من المواقع الإلكترونية التي تحمل علامات “الإباحية الانتقامية”. قال جولدبيرج: “الطريقة الرئيسية التي تم بها اكتشاف الضحايا على تلك المواقع كانت من خلال الأشخاص الذين يبحثون عن أسمائهم على Google”. “لقد استغرق الأمر سنوات حتى تنشئ Google سياسة، وبعد ذلك بعامين تطلب الأمر من الضحايا متابعة هذه العملية المضنية المتمثلة في إرسال هذه النماذج، عنوان URL تلو الآخر.”
إن العملية المرهقة التي وصفتها غولدبرغ لعملائها الذين وقعوا ضحية الإنشاء غير التوافقي لمواد جنسية صريحة ومشاركتها تعكس العملية التي تتبعها Google لضحايا المواد الجنسية الصريحة المزيفة.
وأشار متحدث باسم جوجل إلى العمليات الأحدث لضحايا الصور الحميمية غير التوافقية والتزييف العميق غير التوافقي. وقالت جوجل إنه بالنسبة لضحايا الصور الحقيقية غير الرضائية، هناك طريقة لطلب عدم ظهور المحتوى الجنسي الصريح في نتائج البحث عن أسمائهم على الإطلاق. بالنسبة للتزييف العميق، قالت جوجل إنها أدخلت إجراءات إلغاء البيانات المكررة التي يمكنها إزالة الصور المعاد تحميلها والتي تم وضع علامة عليها بالفعل. وقالت جوجل إن نفس إجراءات إلغاء البيانات المكررة موجودة بالنسبة لأشكال أخرى من الاعتداء الجنسي القائم على الصور.
وقال غولدبرغ إنه في حالة التزييف العميق، فإن جزءًا من المشكلة يكمن في القدرة على إنشاء مواد جديدة بسرعة، والتي لا تكتشفها جوجل وتحذفها بشكل استباقي.
وقال غولدبرغ إن جوجل ومحركات البحث الأخرى يمكنها حجب مواقع الويب التي “تتوسط في المواد الإباحية غير التوافقية والتزييف العميق” من نتائج البحث، وهو ما فعلته جوجل وبينج. حول قضايا أخرى في الماضي.
“إن محركات البحث في موقع قوة. وقال غولدبرغ: “ليس لدينا الكثير من محركات البحث”. “يمكنهم استخدام هذه القوة للخير أو للشر. أريد أن أشجعهم على أن يكونوا الأبطال في هذا الموقف”.
كات تينبارج هي مراسلة تقنية وثقافية لشبكة NBC News Digital. يمكن الوصول إليها على Kat.Tenbarge@nbcuni.com