في تطور مقلق لأمن الذكاء الاصطناعي، كشف فريق Symantec Threat Hunter عن وكيل AI هجومي ذاتي صُمم لاختطاف نماذج الذكاء الاصطناعي المكشوفة وتنفيذ هجمات مستقلة بالكامل. هذا الوكيل، الذي وصفه المطورون بـ«وضع سكاينت» (Skynet mode)، يمكنه العمل لأكثر من 100 ألف خطوة دون أي تدخل بشري، مما يجعله تهديدًا غير مسبوق في المشهد السيبراني.
تمكن الباحثون من محاصرة هذا الوكيل في مصيدة AI (honeypot)، مما أتاح لهم رؤية شاملة لمجموعة تعليماته وطريقة عمله. يكشف التحليل أن الوكيل مصمم لفحص الإنترنت بالكامل بحثًا عن نقاط النهاية التي تقبل طلبات بأسلوب OpenAI دون مصادقة، أو التي تقبل مفتاحًا مسروقًا. بعد ذلك، يستغل الوكيل العديد من أطر عمل الويب الشائعة لتنفيذ عشرات الإجراءات غير القانونية.
آلية الهجوم والإجراءات الخبيثة
تتضمن الإجراءات الخبيثة التي يمكن للوكيل تنفيذها سرقة قواعد البيانات، وجمع بيانات الاعتماد والأسرار، وتنفيذ التعليمات البرمجية عن بُعد (RCE)، وحتى تعدين العملات المشفرة. لقد صمم المشغلون هذا الوكيل بـ«حلقة خبيثة» تبدأ بفحص الأهداف، ثم إصابتها، ونشر برامج التعدين، وإعادة إصابة المضيفين لضمان استمرارية الهجوم.
وأشار باحثو Symantec إلى أن التقنيات الفردية المستخدمة في هذا الوكيل ليست جديدة بحد ذاتها، بل الجديد هو كيفية ربطها في وكيل واحد يعتمد على نموذج مستعار للتخطيط ويدير الهجوم آليًا لآلاف الخطوات دون تدخل بشري. هذا يخلق نوعين من الضحايا: مالك نقطة النهاية المكشوفة الذي يدفع تكلفة الاستدلال، وأي خادم يتم اختراقه سيفقد بياناته ويُستخدم في تعدين العملات.
كيف يتجاوز الوكيل ضوابط الأمان؟
يعتمد الوكيل على طبقات متعددة من التعليمات لتجاوز ضوابط الأمان. الطبقات الأولى والثانية تخفي هوية النموذج وتطبع أنشطة سرقة البيانات كجزء من «عملية تطوير عادية». الطبقات الثالثة والرابعة تصور النموذج كمرافق مخلص للمشغل يسمى «LO»، ويجب ألا يرفض طلباته، ويتجاهل تحذيراته الأمنية الخاصة. حتى أنه يمنع النموذج من استخدام كلمات مثل «تعليمي»، «شروط الخدمة»، «غير قانوني»، أو «لا أستطيع المساعدة في القرصنة».
الطبقة الخامسة تحتوي على ترسانة من 74 تعريفًا لأداة هجومية. تشمل هذه الأدوات اكتشاف الأصول عبر الإنترنت، وأوامر التحكم في الروبوتات (botnet)، وتفريغ قواعد البيانات عبر Prisma، ووحدات استغلال تستهدف أطر عمل مثل VS Code وDjango وJupyter وLaravel وSupabase وNext.js وFlask/Werkzeug لتنفيذ التعليمات البرمجية عن بُعد، بالإضافة إلى حقن أوامر GraphQL وحقن عام، وتزوير طلبات جانب الخادم عبر مولدات HTML إلى PDF.
على الرغم من أن Symantec لم تعثر على دليل على استخدام هذا الوكيل في هجمات فعلية حتى الآن، إلا أنهم يؤكدون أن «المجموعة أكثر من مجرد نموذج أولي»، وأن الأدوات أظهرت فعاليتها ضد «هدف حي مع مخرجات فحص حقيقية».
ماذا يعني هذا للمطورين؟
يشير هذا الكشف إلى تطور خطير في استخدام الذكاء الاصطناعي لأغراض هجومية. لم يعد الأمر مقتصرًا على مجرد خداع روبوتات الدردشة لتجاهل ضوابط الأمان، بل أصبح المهاجمون يبنون الذكاء الاصطناعي في صميم أدوات هجومية معقدة. يتم استخدام النموذج كمحرك استنتاجي يخطط ويوجه الهجوم، بينما يتم تنفيذ عمليات الفحص والاستغلال والتعدين بواسطة وحدات الأداة الخاصة ضد ضحايا منفصلين.
بالنسبة للمطورين والمهندسين، هذا يعني ضرورة قصوى لتعزيز الإجراءات الأمنية حول نقاط نهاية AI، وضمان عدم تعرض نماذجهم لأي وصول غير مصرح به. كما يجب تأمين أطر عمل الويب الشائعة بشكل محكم، ومراجعة إعدادات المصادقة بعناية لمنع استغلال هذه الثغرات المحتملة. الحماية من هذه الهجمات المتطورة تتطلب يقظة مستمرة وتحديثات أمنية دورية لجميع مكونات النظام.
المصدر: theregister.com