من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

كشف تقرير Google الأخير حول تهديدات الذكاء الاصطناعي للربع الرابع (Q4 AI Threat Tracker) عن ظاهرة مقلقة جديدة تُعرف باسم «LLM Mixers». هذه الأسواق السرية تبيع وصول الشركات المسروق لنماذج الذكاء الاصطناعي بأسعار بخسة، مما يعرض المؤسسات لتكاليف باهظة ومخاطر أمنية جسيمة.

تنشأ هذه المشكلة مما يُعرف بـ «LLMjacking»، وهو سرقة بيانات اعتماد نماذج الذكاء الاصطناعي — مثل أسماء المستخدمين، وكلمات المرور، ومفاتيح API — التي تتيح للمجرمين السيبرانيين استخدام الرموز والموارد الحاسوبية التابعة للضحية. غالبًا ما تعتمد هذه الخدمات على الفوترة حسب الاستخدام أو الاشتراكات غير المحددة، مما يجعل الضحية تتحمل تكاليف الاستخدام الاحتيالي.

«LLM Mixers»: اقتصاد الظل المتنامي

تُقدم «LLM Mixers» نفسها كـ «واجهات متاجر غير مشروعة» توفر وصولًا غير مصرح به لخدمات الذكاء الاصطناعي والبنية التحتية للبروكسي. لاحظ باحثو مجموعة استخبارات التهديدات في Google (GTIG) أن هذه الأسواق، المنتشرة على منصات باللغتين الروسية والصينية، لا تكتفي بتقديم الوصول لنماذج الذكاء الاصطناعي الرائدة، بل تبيع أيضًا نماذج «مكسورة الحماية» (jailbroken) مُسوّقة لأغراض خبيثة.

تتراوح أسعار الرموز لخدمات الشركات من 0.10 دولار إلى 25 دولارًا، ويمكن أن تتضاعف عدة مرات عند تجاوز حدود معينة. قد تبدو هذه الأسعار منخفضة، لكن Sysdig تُقدّر أن «LLMjacking» يمكن أن يُكلف ما يصل إلى 46,000 دولار بناءً على النماذج القديمة، وأكثر من 100,000 دولار يوميًا في حالة استخدام النماذج المتطورة. سجلت أبحاث Mandiant حوادث تجاوز فيها الاستخدام غير المشروع للذكاء الاصطناعي 100,000 دولار في 24 ساعة فقط، ووصلت الرسوم التراكمية في بعض المؤسسات إلى مليون دولار قبل سحب الوصول. (لتحويل سريع: 100,000 دولار أمريكي تعادل تقريبًا 375,000 ريال سعودي أو 367,000 درهم إماراتي).

كيف نحمي وصولنا للذكاء الاصطناعي؟

لتجنب الوقوع ضحية لـ «LLMjacking» ومنع إضافة موارد مؤسستك إلى قائمة «LLM Mixer»، يجب اتباع ممارسات أمنية مشابهة لتلك المستخدمة لحماية تطبيقات SaaS وإعدادات السحابة، وهي: إدارة الوصول، المراقبة، وفرض القيود.

  • ضع حدودًا واضحة للإنفاق والاستخدام عبر كل خدمة وحساب للذكاء الاصطناعي، مع إعداد تنبيهات فورية عند حدوث ارتفاع مفاجئ في الاستخدام.
  • استخدم مديري الأسرار (secrets managers) لتخزين مفاتيح API بشكل آمن وتدويرها بانتظام، وقم بإجراء تدقيقات للكشف عن أي استكشاف صامت، أو سوء تهيئة، أو حسابات ظل.
  • طبق حماية قوية ضد التصيد الاحتيالي (phishing) والمصادقة متعددة العوامل (MFA) لجعل سرقة بيانات الاعتماد أو اختراق الحسابات أكثر صعوبة.

بالنسبة للمطورين والمصممين، هذا يعني أن حماية وصول نماذج الذكاء الاصطناعي لم يعد مجرد مسألة فنية، بل هو جزء حيوي من استراتيجية الأمن السيبراني الشاملة. نرى أن تبني هذه الممارسات لا يحمي فقط الموارد المالية للمؤسسة، بل يحمي أيضًا سلامة البيانات والعمليات، ويضمن بيئة عمل رقمية آمنة في عصر يعتمد بشكل متزايد على الذكاء الاصطناعي.

المصدر: zdnet.com

ChatGPT Health يصل إلى Mac وAndroid وميزات أخرى
Google: وكيل AI يحول رقع الأمن لثغرات عاملة بلا تدخل بشري

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل