أعلنت OpenAI في 16 نوفمبر عن إطلاق مجموعة جديدة من الأدوات المدعومة بالذكاء الاصطناعي، إضافة إلى إجراءات تدخل أكثر صرامة في ChatGPT، وذلك بهدف تعزيز مكافحة الاستغلال الجنسي للأطفال عبر الإنترنت. هذه الخطوة تعكس التحديات المتزايدة التي يفرضها الذكاء الاصطناعي التوليدي، وتؤكد على ضرورة التعاون بين المنصات التقنية لضمان سلامة الأطفال.
أدوات الكشف المدعومة بالذكاء الاصطناعي
تتضمن المبادرة الجديدة أداة لتصنيف الصور، مصممة خصيصًا لتحديد المواد التي يحتمل أن تكون استغلالًا جنسيًا للأطفال (CSAM)، بما في ذلك الصور المولدة بواسطة الذكاء الاصطناعي. تعمل هذه الأداة على تعيين درجات للصور لمساعدة فرق السلامة في تحديد أولويات المراجعة البشرية. وقد أتاحت OpenAI الوصول إلى هذه الأداة عبر واجهة برمجية (API) مجانًا للمنظمات المعتمدة، مثل مجموعات سلامة الأطفال وشركات التكنولوجيا الأخرى.
تشير التقييمات الأولية إلى أن المصنف الجديد يمكن أن يقلل من عدد الصور التي تتطلب مراجعة بنسبة 48%، مع تحديد نفس العدد تقريبًا من الصور المسيئة مثل أداة OpenAI الحالية. كما كانت الصور التي تم تحديدها بواسطة النظام الجديد أكثر احتمالًا بمرتين لاحتواء محتوى مسيء. وقد أبلغ شركاء خارجيون مثل Fal وinvideo AI وSafetyKit عن نتائج مشجعة في اختباراتهم، مؤكدين فعالية الأداة في الكشف عن محتوى CSAM. وقد طُورت الأداة بالتعاون مع المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، وتعمل OpenAI أيضًا مع منظمات مثل Tech Coalition وROOST لتحسين تبادل المعلومات عبر المنصات.
تدخلات صارمة في ChatGPT ودعم للمطورين
بالإضافة إلى ذلك، تُقدم OpenAI تحذيرات جديدة في ChatGPT عندما يحاول المستخدمون البحث عن مواد مسيئة. تُوضح هذه التحذيرات الضرر الناتج وتُوجه المستخدمين إلى الدعم المتخصص. سيتم إزالة المحادثة التي تم الإبلاغ عنها، وسيتم تعليق الوصول إلى ChatGPT لمدة 24 ساعة. قد تؤدي الانتهاكات المتكررة إلى قيود أطول، أو إغلاق الحساب، أو إبلاغ السلطات المختصة.
ولم يتوقف الدعم عند هذا الحد، فقد نشرت الشركة إرشادات أمان عملية للمطورين، تغطي الكشف عن المحتوى، والإبلاغ من قبل المستخدمين، وإجراءات الإشراف والتصعيد. بشكل منفصل، سيحصل محققو سلامة الأطفال المعتمدون على أدوات الذكاء الاصطناعي لمراجعة سجلات الدردشة الطويلة والسجلات القانونية، وتحديد الروابط المحتملة، وبناء جداول زمنية مرتبطة بالمواد المصدر.
بالنسبة للمطورين والمصممين، نرى أن هذه الإجراءات تُشكل خطوة حاسمة نحو بناء بيئات رقمية أكثر أمانًا. توفر أدوات OpenAI الجديدة فرصًا للمنظمات التي تعمل في مجال حماية الأطفال لدمج تقنيات كشف متقدمة في حلولها. كما أن إرشادات السلامة للمطورين تُقدم خارطة طريق واضحة لكيفية تصميم وتطوير التطبيقات بشكل مسؤول، مع الأخذ في الاعتبار أهمية حماية المستخدمين، خاصة الأطفال، من المحتوى الضار. من المهم أن نلاحظ أن التعاون بين شركات التكنولوجيا والمنظمات المتخصصة هو المفتاح لتحقيق بيئة إنترنت آمنة للجميع.
المصدر: digitaltrends.com