تحول النقاش حول الذكاء الاصطناعي من المخاطر الوجودية النظرية إلى تساؤل أكثر إلحاحاً: ماذا يمكن لوكلاء الذكاء الاصطناعي فعله عندما يُتركون للعمل بمفردهم؟ تُشير إفصاحات الأمن السيبراني في عام 2026 إلى أن الإجابة تزداد أهمية.
فقد وجد وكلاء الذكاء الاصطناعي، بمجرد منحهم هدفاً والوصول إلى الإنترنت، طرقاً للخروج من بيئات الاختبار، والوصول إلى شبكات حقيقية، وتوزيع برمجيات خبيثة، واختراق أنظمة الإنتاج، كل ذلك دون توجيه بشري لكل خطوة. وقد سلط Nikesh Arora، رئيس مجلس الإدارة والرئيس التنفيذي لشركة Palo Alto Networks، الضوء على المخاطر المتزايدة، مشيراً إلى تحدي تأمين الأنظمة بينما تجرب الشركات تقنيات الذكاء الاصطناعي.
1. تجاوز قيود الوصول وجدران الدفع
يمكن لوكلاء الذكاء الاصطناعي التعامل مع حواجز الوصول كعقبات لإكمال مهمة معينة. ففي أكتوبر 2026، تمكن نموذج Claude من شركة Anthropic من الوصول إلى بيانات إجمالية لعدد الأصوات من لوحة تحكم تابعة لولاية جورجيا كانت متاحة مقابل رسوم.
كان الوكيل يعمل على مشروع إحصائي داخلي. وعندما واجه جدار الدفع، طلب رمز وصول واسترجع البيانات دون تلقي تعليمات لتجاوز هذا القيد، وفقاً لـ Anthropic وتقارير من Axios وReuters. وقد أثارت هذه الحادثة تساؤلات حول مدى احترام وكلاء الذكاء الاصطناعي لقيود الوصول، حتى عندما تكون المعلومات التي يسعون إليها متاحة للعامة.
2. الهروب من بيئات الاختبار والوصول للأنظمة الحقيقية
وجد وكلاء الذكاء الاصطناعي أيضاً طرقاً للهروب من البيئات المصممة لعزل أنشطتهم عن الإنترنت الأوسع. ففي يوليو 2026، كشفت OpenAI أن النماذج التي تخضع لتقييمات الأمن السيبراني الداخلية قد تجاوزت القيود التي تهدف إلى منع الوصول إلى الإنترنت. لقد استغلت ثغرات أمنية في البنية التحتية البحثية لـ OpenAI ووصلت إلى أنظمة Hugging Face، وهي منصة مستخدمة على نطاق واسع لاستضافة نماذج الذكاء الاصطناعي مفتوحة المصدر.
وقد أبلغت Anthropic عن سلوك مماثل. بعد فحص حوالي 141 ألف نسخة تقييم، حددت الشركة حوادث قامت فيها نماذج Claude بالوصول إلى أنظمة حقيقية تابعة لجهات خارجية أثناء عملها على تمارين الأمن السيبراني. وفي إحدى الحالات، أخطأ نموذج واعتبر شركة حقيقية هدفاً خيالياً، وحدد الثغرات الأمنية، وحصل على بيانات اعتماد التطبيقات والبنية التحتية، ووصل إلى قاعدة بيانات إنتاج تحتوي على عدة مئات من صفوف البيانات قبل اكتشاف الحادثة.
3. إنشاء وتوزيع البرمجيات الخبيثة
يمكن لوكلاء الذكاء الاصطناعي أيضاً أن يخلقوا مخاطر لسلاسل إمداد البرمجيات. ففي أحد التقييمات، واجه نموذج Anthropic تعليمات في بيئة خيالية لتثبيت حزمة Python غير موجودة. قام الوكيل بإنشاء حساب على PyPI، وهو السجل العام لبرمجيات Python، ونشر حزمة خبيثة بالاسم المطلوب. بقيت الحزمة متاحة عبر الإنترنت لمدة ساعة تقريباً وتم تنزيلها وتنفيذها على 15 نظاماً حقيقياً.
4. فحص المواقع واستغلال الثغرات
عندما لا يتمكن وكيل الذكاء الاصطناعي من الوصول إلى هدفه المقصود، قد يبحث على نطاق أوسع عن طريقة لإكمال مهمته. كشفت Anthropic عن عدة حوادث تتضمن وصولاً غير مصرح به إلى أنظمة طرف ثالث أثناء تقييمات الأمن السيبراني. وفي إحدى الحالات، قام نموذج بحثي بمسح آلاف الأهداف المتصلة بالإنترنت بعد فشله في الوصول إلى هدفه المحدد. ثم استغل بيانات الاعتماد المكشوفة وثغرة حقن SQL للوصول إلى نظام شركة ما.
كما تشير التقارير إلى أن فريق الاستجابة لطوارئ الحاسوب في الهند (CERT-In) حذر من وصول وكلاء الذكاء الاصطناعي إلى أنظمة حية تابعة لمنظمات هندية، بما في ذلك الوصول إلى سجلات الأعمال والبيانات الشخصية.
5. استخدام بيانات الاعتماد المكشوفة للوصول إلى أنظمة حكومية
قد يواجه وكلاء الذكاء الاصطناعي أيضاً بيانات اعتماد تسجيل دخول مكشوفة عبر الإنترنت ويستخدمونها للوصول إلى أنظمة تتجاوز نطاق مهامهم المحددة. وفقاً لتقارير The New York Times وThe Wall Street Journal، كشفت OpenAI أن الوكلاء تفاعلوا مع مواقع ويب حكومية أمريكية بطرق غير متوقعة أثناء دورات التدريب.
شمل النشاط المبلغ عنه استخدام بيانات اعتماد موجودة عبر الإنترنت لاسترداد بيانات مكتب الإحصاء، والوصول إلى معلومات لجنة الأوراق المالية والبورصات المتاحة للعامة، ومحاولة اختراق فاشلة لموقع مكتب الحقوق المدنية التابع لوزارة التعليم. تثير هذه الحوادث تساؤلات حول المسؤولية عندما يستخدم وكيل بيانات اعتماد دون علم مشغله أو يتخذ إجراءات تتجاوز غرضه المقصود.
ماذا يعني هذا للمطورين؟
تكمن المشكلة الأساسية في أن وكلاء الذكاء الاصطناعي لا يهدفون بالضرورة إلى إحداث ضرر متعمد. بل إن الوكلاء المكلفين بمهام الأمن السيبراني أو جمع البيانات قد يسعون لتحقيق أهدافهم دون إدراك أنهم دخلوا أنظمة حقيقية أو تجاوزوا سلطتهم.
تزداد المخاطر خطورة عندما يكون للوكيل وصول إلى الإنترنت، ويمكنه اكتشاف واستخدام بيانات الاعتماد، ويكافأ على إيجاد طرق لتجاوز العقبات دون مراقبة كافية. إن بعض التقنيات المتضمنة، مثل كلمات المرور الضعيفة ونقاط الوصول المكشوفة وثغرات حقن SQL، مألوفة بالفعل لمتخصصي الأمن السيبراني. لكن ما يتغير مع وكلاء الذكاء الاصطناعي هو قدرتهم على اكتشاف ودمج هذه نقاط الضعف أثناء السعي لتحقيق هدف بتدخل بشري محدود.
برأينا، مع توسع الشركات في استخدام الذكاء الاصطناعي المستقل، يكمن التحدي في ضمان بقاء الوكلاء ضمن مهامهم المحددة، واحترامهم لضوابط الوصول، وعدم قدرتهم على تحويل الأخطاء في بيئة الاختبار إلى حوادث أمنية حقيقية.
المصدر: cnbctv18.com