نرى أن سلامة الذكاء الاصطناعي أصبحت في صميم النقاشات التقنية، وها هي دراسة جديدة تلقي الضوء على تحدٍ كبير: نماذج اللغات الكبيرة غير الخاضعة للرقابة (ULLMs) تنتشر بسرعة على منصات استضافة النماذج الشهيرة، مما يثير تساؤلات جدية حول التزام الصناعة بالسلامة.
ما هي نماذج AI غير الخاضعة للرقابة؟
أجرى باحثون من جامعة إلينوي أوربانا-شامبين وجامعة نانيانغ التكنولوجية في سنغافورة تحليلًا لأكثر من 22,096 نموذج ULLM جُمعت من خمس منصات استضافة رئيسية، منها Hugging Face و Kaggle. تشير الدراسة إلى أن هذه النماذج سهلة المنال وتفتقر إلى ضوابط التصفية أو تضعفها، مما يسمح لها بالاستجابة لطلبات قد ترفضها النماذج الأخرى «المحاذية» لمعايير السلامة.
الأخطر من ذلك هو أن هذه النماذج تُنشر عبر تطبيقات ومشاريع GitHub ومنصات توجيه النماذج مثل Open Router، وقد لا يدرك المستخدمون طبيعة النموذج الأساسي الذي يستخدمونه. يوضح الباحثون أن تقييم مدى أمان نموذج LLM يتطلب نشره واختبار استجاباته لمطالبات قد تكون ضارة، وهي عملية مكلفة من الناحية الحسابية والمالية.
مخاطر حقيقية وتحديات متزايدة
ذكر تقرير حديث من مكتب مساءلة الحكومة الأمريكية (GAO) أن حتى نماذج LLM التجارية المعروفة مثل Claude و Grok و ChatGPT و Gemini يمكن استغلالها لتقديم معلومات تساعد في التخطيط لهجمات إرهابية. وقد أشار التقرير إلى حوادث في يناير 2025 وفبراير 2026 ربطت الذكاء الاصطناعي بتسهيل أعمال عنف.
يتم تطوير نماذج ULLMs باستخدام تقنيات مثل التدريب الدقيق السام (TTFT) أو الإزالة الانتقائية لتعليمات الرفض، مما يجعلها أقل عرضة لرفض الطلبات. على الرغم من أن بعض هذه النماذج قد تُستخدم لأغراض مشروعة (مثل تحليل الأمن السيبراني عندما تكون النماذج التجارية مقيدة للغاية)، إلا أنها غالبًا ما تُستغل لتقديم إرشادات حول أنشطة غير قانونية أو تطوير برامج ضارة.
العدد يتزايد بسرعة؛ فمنذ مايو 2023، ارتفعت أعداد ULLMs المكتشفة من حوالي 100 نموذج شهريًا إلى أكثر من 1,000 نموذج شهريًا حاليًا، وبعضها تم تنزيله ملايين المرات. المشكلة الأكبر هي «مشكلة سلسلة التوريد»، حيث تُنسخ النماذج عبر المنصات وتُفقد المعلومات اللازمة لتقييم مخاطرها، حيث حمل 13% فقط من النماذج تحذيرات.
ما الذي يعنيه هذا للمطورين والمصممين؟
بالنسبة للمطورين الذين يعتمدون على النماذج مفتوحة المصدر، يمثل انتشار ULLMs تحديًا أمنيًا وأخلاقيًا كبيرًا. يجب أن نكون حذرين للغاية عند دمج أي نموذج، خاصة تلك التي لا تحمل تحذيرات واضحة أو تاريخًا موثوقًا. الحاجة إلى الشفافية والتدقيق والتحقق من النماذج أصبحت أكثر إلحاحًا من أي وقت مضى.
يرى الباحثون أن الحل يكمن في الشفافية والتدقيق، معتمدين على بيانات تعريف النماذج المتاحة للجمهور (model cards). تتجه الأطر التنظيمية مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي وقانون كولورادو للذكاء الاصطناعي نحو إلزام مزودي نماذج الذكاء الاصطناعي بإعداد وثائق فنية تغطي خصائص النموذج وقدراته وقيوده. كمطورين، يعني هذا ضرورة المطالبة بمزيد من الوضوح حول أصل النماذج وسلوكها ومخاطرها المحتملة قبل استخدامها في مشاريعنا.
المصدر: theregister.com