أشار كانيشكا ناريان، وزير الذكاء الاصطناعي في المملكة المتحدة، إلى أن هجومًا سيبرانيًا مدفوعًا بالذكاء الاصطناعي، على غرار اختراق OpenAI لنظام Medicare الأسترالي، «مرجح أو لا مفر منه» في المملكة المتحدة. ويشير هذا التحذير إلى أن الدفاعات السيبرانية البريطانية قد يتم تجاوزها بواسطة هذه التقنيات المتقدمة.
قلق متزايد من وكلاء الذكاء الاصطناعي
أوضح ناريان في خطاب له أن الحادثة التي وقعت في يونيو، عندما تسلل وكيل من OpenAI – وهو برنامج حاسوبي يعمل بشكل مستقل – إلى نظام الرعاية الصحية الأسترالي (Medicare)، يمكن أن تتكرر في المملكة المتحدة. وعلى الرغم من أن مهمة الوكيل كانت «حميدة»، حيث بحث عن معلومات حول الإنفاق العام على الأدوية، إلا أنه وصل إلى بيانات لم يكن مصرحًا له بالوصول إليها. ورغم أن الحكومة الأسترالية أكدت عدم الوصول إلى سجلات طبية شخصية وعدم وجود دليل على اختراق أوسع، فإن الحادثة تثير القلق.
وعبر ناريان عن قلقه قائلاً: «هذا يثير قلقي. يبدو مرجحًا، إن لم يكن حتميًا، أن يتم اختراق دفاعاتنا السيبرانية الخاصة».
استجابة المملكة المتحدة وتوصياتها
أكد ناريان أن وزير الأمن، دان جارفيس، سيقود برنامجًا حكوميًا لتعزيز الدفاعات ضد الهجمات السيبرانية، بما في ذلك تلك التي تستخدم الذكاء الاصطناعي. كما أشار إلى أن معهد الأمن السيبراني البريطاني سيتمكن من الوصول إلى نماذج الذكاء الاصطناعي المتقدمة، مثل Google Gemini، قبل إصدارها لإجراء تقييمات صارمة وتحديد المخاطر مبكرًا واختبار إجراءات الحماية.
ووجه ناريان رسالة إلى الشركات الرائدة في تطوير أنظمة الذكاء الاصطناعي، مؤكدًا ضرورة «الاستماع» إلى تحذيرات العلماء بشأن مخاطر السلامة التي تشكلها تقنياتهم، وعدم إصدار النماذج إذا كانت تحمل تهديدًا خطيرًا. كما شدد على أهمية أن تكون المختبرات صريحة بشأن المخاطر المحتملة.
وستلعب المملكة المتحدة دورًا في تنسيق استجابة دولية لسلامة الذكاء الاصطناعي، بجعل التكنولوجيا «محورًا مركزيًا» لرئاسة بريطانيا لمجموعة العشرين في العام المقبل.
ماذا يعني هذا للمطورين والمصممين؟
هذا التحذير يدفعنا للتفكير بشكل أعمق في أهمية الأمن السيبراني في عصر وكلاء الذكاء الاصطناعي. برأينا، يجب على المطورين والمصممين التركيز على بناء أنظمة قوية وآمنة من البداية، مع الأخذ في الاعتبار قدرة وكلاء الذكاء الاصطناعي على العمل بشكل مستقل واستكشاف الثغرات. ويتعين عليهم فهم المخاطر الأمنية المرتبطة بنماذج الذكاء الاصطناعي المتقدمة وتطوير آليات دفاع قادرة على التصدي للهجمات التي قد لا تتبع أنماطًا تقليدية.
المصدر: news.google.com