كشف السير كين ماكالوم، المدير العام لوكالة الاستخبارات البريطانية MI5، في 13 أكتوبر عن إطلاق مركز جديد لتقييم تهديدات الذكاء الاصطناعي (AITAC) داخل الوكالة. يأتي هذا الإعلان مع تزايد المخاوف بشأن قدرة الذكاء الاصطناعي على «التفوق على تفكير البشر»، وتحوله إلى أداة قد تستغلها الدول والإرهابيون.
مركز AITAC: مهمة تحديد الحقيقة
أكد ماكالوم أن مهمة AITAC هي «فصل الضجيج عن الحقائق» في مجال الذكاء الاصطناعي، وتزويد الحكومة «بنسخة واحدة من الحقيقة» لتجنب وجهات النظر المتضاربة بين الإدارات المختلفة. يضم المركز خبراء من معهد أمن الذكاء الاصطناعي والوكالة الوطنية لمكافحة الجريمة والمركز الوطني للأمن السيبراني. ويشير ماكالوم إلى أن MI5 تكرس الآن موارد لمواجهة تهديدات الدول أكثر مما كانت عليه خلال الحرب الباردة، وأن حجم قضايا التهديدات تضاعف أربع مرات في العقد الماضي.
أوضح ماكالوم أن الذكاء الاصطناعي «يعزز بشكل كبير» المواجهة بين المهاجمين والمدافعين في الفضاء السيبراني، ويمكنه إنتاج دعايات مخصصة لكل فرد. كما أشار إلى أن الإرهابيين يحاولون استغلال الذكاء الاصطناعي لتحسين عمليات الاستطلاع ومنهجيات الهجوم، وأن الطائرات المسيرة المدعومة بالذكاء الاصطناعي «تضيف بعداً جديداً» للتهديدات. ورغم هذه المخاطر، فإن القلق الأكبر لماكالوم يكمن في إمكانية الذكاء الاصطناعي لتغيير طبيعة الأسلحة البيولوجية القائمة أو الجديدة.
وفي سياق تعزيز المرونة الوطنية، التي تسميها MI5 «الحماية»، وجه ماكالوم نصيحة للمؤسسين والشركات الناشئة في مجال التكنولوجيا قائلاً: «إذا كنت شركة تقنية ناشئة، فتوقع أن تتجسس عليك جهات أجنبية، وقم بتأمين أمنك السيبراني». هذا التحذير جاء بعد أسبوعين من إصدار MI5 تحذيراً للجامعات البريطانية بشأن التجسس، وتحديداً معهد يمول أبحاثاً في الذكاء الاصطناعي والأمن السيبراني.
قلق متزايد من وكلاء الذكاء الاصطناعي وسلامته
تزامنت كلمة ماكالوم مع جلسة استماع في مجلس العموم البريطاني، حيث استجوبت لجنة الأعمال والابتكار والعلوم والتجارة مسؤولين تنفيذيين من OpenAI وAnthropic وGoogle DeepMind وMeta. اعترف توم داف جوردون، رئيس السياسات لمنطقة أوروبا والشرق الأوسط وأفريقيا في OpenAI، بأنه لا يمكنه تأكيد أن الحوادث السابقة لوصول وكلاء الذكاء الاصطناعي إلى مواقع حكومية بطرق غير متوقعة هي الوحيدة، مشيراً إلى «عدد قليل من الحوادث الأخرى» التي أبلغت عنها OpenAI.
وقد أوقف OpenAI تدريب التعلم المعزز على نموذجها الأكثر تقدماً، وأجلت إصدار Astra 6.1، بعد حادثة Hugging Face في يوليو. من جانبهم، وجه باحثون سابقون انتقادات لـOpenAI، حيث صرح دانيال كوكوتايلو الذي استقال من الشركة، بأنه لا يعتقد أن OpenAI ستتصرف بمسؤولية تجاه تطوير هذه التكنولوجيا. كما أشار ستيفن أدلر، الذي عمل على سلامة المنتجات في OpenAI، إلى وجود «مقاومة لاستخدام كلمات مثل «خطير»» داخل الشركة. وفي سياق متصل، شدد اللورد بوث-سميث، رئيس السياسات لمنطقة أوروبا والشرق الأوسط وأفريقيا في Anthropic، على ضرورة أن تواكب الضمانات قدرات الذكاء الاصطناعي.
ما الذي يعنيه هذا للمطورين والمصممين؟
تؤكد هذه التطورات على أن الأمن السيبراني لم يعد يقتصر على الأنظمة التقليدية، بل يمتد ليشمل الذكاء الاصطناعي الذي بات جزءاً لا يتجزأ من بيئات العمل. يجب على المطورين والمصممين إعطاء الأولوية لتضمين اعتبارات الأمن والسلامة في كل مرحلة من مراحل تصميم وتطوير أنظمة الذكاء الاصطناعي ووكلاء AI. هذا يتضمن فهم نقاط الضعف المحتملة لوكلاء الذكاء الاصطناعي، وتطبيق أفضل ممارسات الأمن السيبراني لحماية تطبيقاتهم وبيانات المستخدمين من الاستغلال المحتمل، مع الأخذ في الاعتبار التحذيرات المباشرة للشركات التقنية الناشئة حول التجسس. برأينا، لم يعد الأمر مجرد ميزة إضافية، بل هو ضرورة قصوى لضمان موثوقية هذه التقنيات وقبولها.
المصدر: thenextweb.com