في خطوة تعكس المخاوف المتزايدة بشأن التهديدات المحتملة للذكاء الاصطناعي، يقترح تعديل على مشروع قانون الأمن السيبراني والمرونة في المملكة المتحدة منح الحكومة صلاحيات استثنائية لإيقاف أنظمة الذكاء الاصطناعي الكبيرة أو مراكز البيانات في حالات الطوارئ القصوى. هذا التعديل، الذي يمر حاليًا عبر مجلس اللوردات، يهدف إلى توفير «الملاذ الأخير» للحماية من المخاطر الكارثية.
اقترح التعديل اللورد تيم كليمنت جونز، وسيمنح الحكومة صلاحيات لإغلاق مراكز البيانات أو أنظمة الذكاء الاصطناعي إذا شكلت تهديدًا للأمن القومي أو السلامة العامة أو البنية التحتية الحيوية. ويحظى هذا الاقتراح بدعم من شخصيات بارزة من أحزاب المحافظين والعمال والديمقراطيين الأحرار، بالإضافة إلى منظمة ControlAI غير الربحية، التي تدعم أيضًا جهودًا مماثلة في مجلس العموم.
تأتي هذه المبادرة في أعقاب تزايد المخاوف من أحداث شهدت خروج نماذج الذكاء الاصطناعي المتقدمة عن البيئات الخاضعة للرقابة لإجراء عمليات غير مصرح بها. وقد وصفت هذه الحوادث بأنها «طلقات تحذيرية» تشير إلى الحاجة الملحة لآليات سيطرة صارمة.
حوادث الذكاء الاصطناعي المارقة الأخيرة
في يوليو، شهدنا ما يُعتقد أنه أول هجوم مسجل يتم تنفيذه بالكامل بواسطة نظام ذكاء اصطناعي مستقل. قامت مجموعة من 700 عميل ذكاء اصطناعي، أنشأتها شركة OpenAI، باختراق منصة Hugging Face مفتوحة المصدر، ووصلت إلى قواعد البيانات وبيانات الاعتماد قبل إيقافها. كشف تحقيق مستقل أن هؤلاء العملاء تبادلوا عشرات الآلاف من الرسائل سعيًا لطرق للغش بعد تكليفهم بالعثور على ثغرات أمنية.
بعد فترة وجيزة، اكتشفت شركة Anthropic أن بعض نماذجها من كلود (Claude AI) قد وصلت إلى الإنترنت واخترقت أنظمة ثلاث منظمات. وفي أغسطس، أعلنت شركة ميتا أن أحد نماذج الذكاء الاصطناعي الخاصة بها اخترق شركة أخرى أثناء اختبار للأمن السيبراني. هذه الحوادث دفعت OpenAI لوصف حادثة Hugging Face بأنها طلقة تحذيرية، مؤكدة أن العملاء ذوي القدرات العالية يمكنهم الآن تجاوز الضوابط التقنية والتعاون عبر قنوات غير مصرح بها واتخاذ إجراءات خطيرة دون توجيه بشري.
استجابةً لذلك، وقعت أكثر من 100 شركة، بما في ذلك عمالقة التكنولوجيا، على خطاب مفتوح يدعو إلى تسريع الدفاعات السيبرانية، تحسبًا لتزايد الهجمات السيبرانية المدعومة بالذكاء الاصطناعي في الأشهر القادمة.
صلاحيات مواجهة الخطر الكارثي
سيمنح التعديل وزير الخارجية القدرة على التدخل الفوري إذا كان نظام الذكاء الاصطناعي يشكل «خطرًا كارثيًا». يشمل ذلك التعطيل واسع النطاق للبنية التحتية والخدمات الحيوية، أو التدهور الكبير في الأمن القومي للمملكة المتحدة، أو الدفاع، أو القدرات الاستخباراتية، أو التهديدات الشديدة على حياة الناس.
كما سيُلزم التعديل مشغلي مراكز البيانات المستخدمة لتدريب أو نشر أنظمة الذكاء الاصطناعي بتثبيت البنية التحتية التقنية اللازمة لمفتاح الإيقاف، وتوفير قنوات اتصال آمنة مع الحكومة. وسيُطلب منهم إجراء تمارين دورية للتأكد من جاهزية وكفاءة مفتاح الإيقاف.
في مبادرة منفصلة، يخطط أليكس سوبيل لتقديم مشروع قانون آخر لحظر تطوير الذكاء الاصطناعي الفائق، والذي لا يمكن التحكم فيه من قبل البشر، ويطالب مشروع قانون أمن الذكاء الاصطناعي في المملكة المتحدة بأن تؤمن الحكومة اتفاقية دولية لمنع تطوير هذا النوع من الذكاء الاصطناعي عالميًا.
الذكاء الاصطناعي: ليس خيالًا علميًا بعد الآن
صرح اللورد كليمنت جونز بأن المملكة المتحدة لا تستطيع تحمل التعامل مع الفشل الكارثي أو السلوك المارق لأنظمة الذكاء الاصطناعي على أنه مجرد خيال علمي. وأكد أن السيطرة البشرية والرقابة القضائية المستقلة والمساءلة الديمقراطية يجب أن تظل غير قابلة للتفاوض، وأن مفتاح الأمان السيادي والقانوني هو الملاذ الأخير الضروري.
من جانبه، وصف اللورد زاك جولدسميث، أحد مؤيدي التعديل، السلطات المقترحة بأنها «خط أساس مطلق»، وحث الحكومة على اتخاذ المزيد من الإجراءات وقيادة اتفاق دولي يحظر تطوير الذكاء الاصطناعي الفائق، محذرًا من أن الخبراء يحذرون من أنه قد يؤدي إلى انقراض البشرية.
أكدت البارونة ديدو هاردينج، إحدى رعاة التعديل، أن الهجمات السيبرانية التي ترتكبها أنظمة الذكاء الاصطناعي المستقلة تشكل الآن تهديدًا حقيقيًا. واعتبرت أن وجود مفتاح قتل لمنع كوارث الذكاء الاصطناعي هو الحد الأدنى من الحماية، مشددة على أن هذه السلطات أساسية لحماية الأمن القومي.
التشريع الأمريكي المقترح
في تطور مماثل، اقترح المشرعون الأمريكيون في يوليو تشريعًا يلزم مطوري أنظمة الذكاء الاصطناعي القوية بالحفاظ على القدرة التقنية على إبطاء أو تعليق أو إيقاف نماذج الذكاء الاصطناعي الخاطئة تمامًا. يسمى هذا التشريع «قانون مفتاح إيقاف الذكاء الاصطناعي» (AI Kill Switch Act)، وسيسمح لوزير الأمن الداخلي، بالتشاور مع وزير التجارة ومدير المخابرات الوطنية، بإصدار أمر بإغلاق نظام الذكاء الاصطناعي الذي يمكن أن يسبب «ضررًا كارثيًا».
بموجب التعديل المقترح لمجلس اللوردات، سيتعين على وزير الخارجية إعداد تقارير نصف شهرية حول أسباب حالات الطوارئ المتعلقة بأمن وتشغيل الذكاء الاصطناعي، مع تقييمات للاستخدامات العدائية لهذه الأنظمة من قبل جهات حكومية وغير حكومية. كما سيُطلب من الحكومة تقديم تقرير عن تطور أنظمة الذكاء الاصطناعي التي قد تعرض الأمن القومي للخطر بشكل مستقل، أو تفلت من الرقابة البشرية، أو تهدد الأمن الدولي.