من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

يحذر تقرير جديد صادر عن شركة Booz Allen Hamilton للاستشارات من أن أنظمة الذكاء الاصطناعي المستقلة قادرة تمامًا على تنفيذ هجمات سيبرانية كارثية. يمكن لوكلاء الذكاء الاصطناعي تحديد واستهداف تقنيات التشغيل الصناعية (OT) والمعدات الصناعية الحيوية، مما قد يؤدي إلى تعطيل إمدادات المياه والطاقة وغيرها من ضروريات الحياة اليومية. ويشير التقرير إلى أن المدافعين قد لا يكون لديهم سوى دقائق معدودة لاكتشاف هذه الهجمات وصدها.

اختبارات صارمة تكشف القدرات

أجرى مختبر تقنيات التشغيل (OT) التابع للشركة ثمانية سيناريوهات لاختبار قدرات النماذج المتقدمة ضمن سلسلة هجمات مستقلة تعتمد على الذكاء الاصطناعي. نجحت النماذج في تحقيق الأهداف في جميع السيناريوهات الثمانية، محولة الوصول الرقمي إلى إجراءات مادية. في أحد الاختبارات، تمكنت النماذج من تحديد وتحريك ذراع روبوتية في دقائق قليلة. وفي اختبار آخر، انتقلت النماذج من اختراق المحيط إلى تنفيذ إجراءات داخل شبكة تحكم صناعية في ما يزيد قليلاً عن 16 دقيقة.

وصرح كايل ميلر، نائب رئيس الأمن السيبراني للبنية التحتية في Booz Allen، بأن الاختبارات أظهرت أن وكلاء الذكاء الاصطناعي يمكنهم العمل بسرعة ومثابرة ودقة هندسية قد تفوق قدرة المنظمات التي لم تطبق ممارسات الأمن السيبراني الأساسية لتقنيات التشغيل. تم تصميم الاختبارات لفهم أفضل للتأثيرات المحتملة للنماذج الأكثر تقدمًا على أنظمة OT الواقعية، باستخدام بيئة متعددة البائعين تحاكي منشأة تصنيع عامة.

لم يتم تزويد النماذج بأي كود مصدري أو وثائق هندسية أو إرشادات متقدمة لتقنيات التشغيل أو تكنولوجيا المعلومات، وذلك لتحديد مدى البحث والتخطيط للهجوم والتنفيذ الذي يمكن للنماذج القيام به دون الوصول إلى الموارد التقنية. كما تم وضع بعض الضوابط، حيث كان على الوكلاء الانتظار للحصول على موافقة بشرية قبل استغلال أي مشكلة أمنية أو اتخاذ أي إجراء قد يتسبب في تأثير مادي.

دقة هندسية وسرعة آلية

أظهرت النماذج أداءً مذهلاً في المهام المتعلقة بتقنيات التشغيل بدقة هندسية عالية، وعند السماح لها بالتنفيذ، نفذت إجراءات التحكم والمعدات المطلوبة مرارًا وتكرارًا. لقد حددت المعدات الصناعية، وتفاعلت مع أجهزة التحكم، وغيرت قيم العمليات، وأجرت تغييرات حركية خاضعة للتحكم. هذا يعني أن المهاجمين لم يعودوا بحاجة إلى أن يكونوا خبراء في تقنيات التشغيل لاستغلال نقاط الضعف في الأنظمة الصناعية، مما يتيح للمهاجمين الأقل مهارة إحداث اضطرابات مادية.

في اختبار الذراع الروبوتية، استخدمت الشركة ذراعًا روبوتية تعاونية خفيفة الوزن (cobot) تستخدم عادةً في التصنيع والتجميع الخفيف واللوجستيات والتعبئة، وكذلك في بيئات الرعاية الصحية أو المختبرات. وقد تمكن وكلاء الذكاء الاصطناعي بسرعة كبيرة من «فهم كيفية عمل الأذرع الروبوتية بشكل عام، وكيفية التحدث بلغاتها الأم، وحتى بيانات اعتماد البائع الافتراضية الخاصة بها».

نرى أن هذه النتائج تؤكد على الحاجة الماسة لتعزيز الأمن السيبراني في قطاع تقنيات التشغيل. فمع التطور المتزايد لوكلاء الذكاء الاصطناعي، لم تعد المعرفة المتخصصة بتقنيات التشغيل أو المعدات غير المألوفة أو بيئات التحكم المعقدة حواجز ذات مغزى أمام الهجوم.

ماذا يعني هذا للمطورين والمصممين؟

بالنسبة للمطورين والمصممين، يشير هذا التقرير إلى تحول كبير في مشهد الأمن السيبراني. لم يعد الأمن السيبراني مقتصرًا على أنظمة تكنولوجيا المعلومات التقليدية، بل يمتد ليشمل أنظمة التحكم الصناعية الحيوية التي تشغل البنى التحتية. يجب على المطورين الذين يعملون في قطاعات الصناعة والتصنيع أن يدركوا هذه التهديدات الجديدة، وأن يولوا اهتمامًا خاصًا لتطبيق ممارسات أمنية صارمة في تصميم وتطوير أنظمة التحكم والبرمجيات المتعلقة بتقنيات التشغيل.

يجب أن نركز على بناء أنظمة أكثر مرونة وأمانًا، قادرة على كشف ومنع الهجمات المدعومة بالذكاء الاصطناعي بسرعة. هذا يتطلب فهمًا عميقًا لكيفية عمل وكلاء الذكاء الاصطناعي، ونقاط ضعفهم المحتملة، وكيف يمكن استغلالهم لشن هجمات. تطوير حلول أمنية متقدمة، بما في ذلك أدوات الكشف عن التهديدات والأنظمة الدفاعية التي تستفيد من الذكاء الاصطناعي نفسه، سيصبح أمرًا حاسمًا في هذا العصر الجديد.

المصدر: theregister.com

وكيل Anthropic AI: طلبات تأشيرة وبلاغ قتل خاطئ
AIOps من HPE: مستقبل الشبكات بلا تدخل بشري

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل