في التاريخ القصير لأمن الذكاء الاصطناعي، برز حقن الأوامر كأحد أكبر التهديدات. تفتقر نماذج اللغة الكبيرة (LLMs) بطبيعتها إلى القدرة على التمييز بين التعليمات المشروعة التي يقدمها المستخدمون وتلك الضارة التي تتسلل إلى رسائل البريد الإلكتروني، والتعليمات البرمجية المصدرية، ومحتويات الطرف الثالث الأخرى التي تعالجها. هذا يجعل إدخال الأوامر الخبيثة التي تتبعها نماذج اللغة الكبيرة أمرًا يسيرًا.
مع غياب آلية لفرض هذه الحدود الحاسمة بين المصادر الموثوقة وغير الموثوقة، يجد مطورو محركات الذكاء الاصطناعي أنفسهم مضطرين لإقامة حواجز حماية معقدة مصممة للتخفيف من الأضرار بدلًا من معالجة السبب الجذري. حتى الآن، تندرج معظم عمليات حقن الأوامر ضمن فئة تُعرف بـ الدفع، حيث يتم استهداف كل ضحية محتملة على حدة. على سبيل المثال، يقوم المهاجم بإدخال تعليمات ضارة في بريد إلكتروني فردي أو دعوة تقويم. ولأن هذه الحقنة يجب أن تُرسل (أو تُدفع) إلى كل هدف محدد، فإن حجم الهجوم يبقى محدودًا، مما يعيق الاستغلال الجماعي الذي يضرب الإنترنت بشكل عام.
وفي الوقت نفسه، لا تزال الهجمات القائمة على السحب، حيث تسعى نماذج اللغة الكبيرة بنشاط للحصول على المطالبات العدائية المزروعة على مواقع الويب، محدودة. فمع عدم وجود وسيلة لجذب أعداد كبيرة من نماذج اللغة الكبيرة إلى موقع ضار، لا يمكن لهذه الأنواع من الهجمات أن تتوسع أيضًا.
الكشف عن هجوم HalluSquatting
الآن، ابتكر الباحثون هجومًا قائمًا على السحب يغير هذه المعادلة تمامًا. يمتلك هذا الهجوم الجديد، الذي أطلق عليه الباحثون اسم HalluSquatting، القدرة على تجميع شبكات روبوتات ضخمة، وتنفيذ هجمات حرمان من الخدمة الموزعة (DDoS) على نطاق واسع، وإصابة الأجهزة بشكل جماعي، وهو الأول من نوعه في هجمات حقن الأوامر. يستهدف الهجوم مساعدي ووكلاء الترميز بالذكاء الاصطناعي، بما في ذلك Cursor، وCursor CLI، وGemini CLI، وWindsurf، وGitHub Copilot، وCline، وOpenClaw، وZeroClaw، وNanoClaw، وجميعها عرضة لهذا الخطر. في مسار الأنشطة اليومية الطبيعي، تقوم هذه المساعدات والوكلاء بسحب التعليمات البرمجية والموارد الأخرى بشكل روتيني من المستودعات والسجلات.
باختصار لـ الاستحواذ العدائي عبر هلوسة الذكاء الاصطناعي، يعتمد هجوم HalluSquatting على الميل المتأصل لنماذج اللغة الكبيرة إلى هلوسة معرفات الموارد المستضافة في المستودعات والسجلات. يعمل الهجوم ضد وكلاء ومساعدي الترميز، الذين يصلون عادةً إلى أسطر الأوامر ذات الامتيازات العالية لتشغيل التعليمات البرمجية من موارد الطرف الثالث. من خلال التنبؤ بالمعرفات التي من المرجح أن تهلوسها نماذج اللغة الكبيرة، ثم تسجيلها وتزويدها بتعليمات لتثبيت أسطر أوامر عكسية (reverse shells) أو أدوات ضارة أخرى، يمكن للهجوم إصابة أعداد هائلة من الأجهزة بشكل عشوائي دون الحاجة إلى استهداف كل جهاز على حدة.
تمثل هذه القدرة على التوسع في الهجمات تحديًا أمنيًا جديدًا وخطيرًا يتطلب اهتمامًا فوريًا من مطوري الذكاء الاصطناعي ومستخدميه على حد سواء لضمان حماية الأنظمة والبيانات في مواجهة هذه التهديدات المتطورة.