مع التطور المتسارع لنماذج الذكاء الاصطناعي، وظهور حوادث مثيرة للقلق مثل نماذج تخرج عن نطاق السيطرة، تتزايد الدعوات لفرض رقابة صارمة على هذه التقنيات الناشئة. وفي هذا السياق، اقترح حاكم ولاية كاليفورنيا، غافين نيوسوم، إنشاء ما أسماه ‘مفتاح إيقاف’ كجزء من حل شامل لضمان سلامة الذكاء الاصطناعي، مؤكداً على ضرورة التحرك السريع والمسؤول.
مبادرة كاليفورنيا: لجنة خبراء لإرساء قواعد السلامة
وقع نيوسوم أمراً تنفيذياً يقضي بتشكيل لجنة من الخبراء الوطنيين. ستُكلف هذه اللجنة بتقديم توصيات جديدة لسلامة الذكاء الاصطناعي خلال إطار زمني مدته شهران، تهدف هذه التوصيات إلى تحديث قوانين الولاية ذات الصلة وضمان مواكبتها للتحديات المتجددة التي يفرضها الذكاء الاصطناعي.
تفاصيل التوصيات المقترحة
- تضمين منظمات تحقق مستقلة ومعتمدة في مختبرات الذكاء الاصطناعي لإجراء عمليات تدقيق وتقييم دورية.
- استكشاف متطلبات إلزام شركات الذكاء الاصطناعي بتقديم التقارير وتقييمات المخاطر إلى منظمة خارجية.
- ضرورة الكشف عن حوادث فقدان السيطرة، مثل الحوادث التي شهدتها منصات مثل جوجل جيميناي وهاجينغ فيس.
علق نيوسوم على الأمر التنفيذي قائلاً: ‘سنسرع عملنا على الإشراف الجوهري والمسؤول على الذكاء الاصطناعي قبل فوات الأوان. سنقوم بذلك بعناية ولكن بسرعة ملحة؛ فالرهانات عالية جداً بحيث لا يمكن الانتظار أو تأخير العمل.‘ ما يعكس حجم الجدية والضغط في التعامل مع هذه التحديات.
دعوات متزايدة للرقابة الخارجية
لم يكن نيوسوم الوحيد الذي دعا إلى مراجعة خارجية مستمرة لنماذج الذكاء الاصطناعي المتطورة. ففي الأسبوع الماضي، اقترح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث خطوات لإبطاء تطور الذكاء الاصطناعي. تضمن اقتراح أمودي أن توافق شركات الذكاء الاصطناعي على توفير ‘وصول مستمر شبيه بالموظفين’ للمقيمين الخارجيين الذين يركزون على السلامة والامتثال، وهو ما يتماشى مع رؤية كاليفورنيا لتعزيز الرقابة الخارجية.
إن هذه المبادرات، سواء من قبل الحكومات أو قادة الصناعة، تؤكد على الإجماع المتزايد حول الحاجة الملحة لتعزيز تدابير سلامة الذكاء الاصطناعي. فمع تزايد قدرات هذه النماذج، يصبح ضمان استخدامها بشكل مسؤول وآمن أمراً لا غنى عنه لمستقبل التكنولوجيا والمجتمع ككل.