من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

تدعو لجنة برلمانية بريطانية إلى إنشاء هيئة رقابية جديدة للذكاء الاصطناعي، تتمتع بسلطة إيقاف تطوير ونشر نماذج AI التي قد تشكل خطرًا. هذا التحرك يأتي بعد أن أظهرت جلسات الاستماع فجوات في الرقابة المستقلة والإبلاغ عن الحوادث، مما يثير تساؤلات حول مدى سلامة النماذج التي تُطرح في السوق.

صلاحيات واسعة للرقيب المقترح

يُطالب المشرعون، ممثلين في لجنة التجارة والابتكار والعلوم والأعمال بالبرلمان، بـ«مشروع قانون لسلامة وأمن الذكاء الاصطناعي». هذا القانون من شأنه أن يمنح الجهة الرقابية صلاحيات واسعة للتدخل، بما في ذلك إيقاف عمليات التدريب والاختبار عالية المخاطر، ومنع نشر النماذج، أو حتى تعليق خدمات الذكاء الاصطناعي إذا تعذر احتواء المخاطر. نرى أن هذه خطوة ضرورية لأن نماذج اللغة الكبيرة (LLMs) تُدرَّب على مليارات المعاملات وتصبح سلوكياتها غير قابلة للتنبؤ دائمًا.

على الرغم من أن شركات مثل OpenAI وGoogle DeepMind وAnthropic وMeta أكدت للبرلمان أنها لن تُصدر نماذج غير آمنة، إلا أن اللجنة أشارت إلى أن معايير السلامة تختلف بين هذه الشركات، ولا يوجد قانون بريطاني يُلزمها بالحصول على رأي مستقل قبل الإطلاق. وصرّح ليام بيرن، رئيس اللجنة، بأننا «لا يمكننا منح قادة الذكاء الاصطناعي اليوم حرية مطلقة للتصرف مثل الدكتور فرانكشتاين العصري، وخلق مخاطر تتجاوز سيطرة أي شخص».

فجوات في المشهد الحالي

حدّد تقرير اللجنة، المعنون «حواجز الحماية للنمو: جعل الذكاء الاصطناعي آمنًا»، عشر نقاط ضعف في النهج البريطاني لسلامة الذكاء الاصطناعي. تشمل هذه الفجوات الافتقار إلى الإبلاغ الإلزامي عن الحوادث، ومحدودية وصول المختبرين المستقلين، وعدم كفاية حماية المبلغين عن المخالفات.

معهد أمن الذكاء الاصطناعي (AISI) الموجود حاليًا في المملكة المتحدة يقوم بعمل ممتاز في اختبار أقوى النماذج، لكن عمله يعتمد على التعاون الطوعي، وليس لديه سلطة لإيقاف شركة من إصدار نموذج يثير مخاوف تتعلق بالسلامة. لذا، يطالب المشرعون بأن يواصل AISI عمله في الاختبار بينما تتولى هيئة تنظيمية منفصلة مسؤولية الإنفاذ.

ماذا يعني هذا للمطورين والمصممين؟

بالنسبة للمطورين والمصممين في قطاع الذكاء الاصطناعي، قد يعني هذا التغيير ضرورة توفير أدلة قوية تدعم ادعاءات السلامة لأنظمتهم المصنفة على أنها «عالية المخاطر». كما قد يتوجب عليهم منح الباحثين المستقلين إمكانية الوصول لفحص النماذج، وأي تغييرات كبيرة في قدرات النموذج أو ضماناته ستتطلب تدقيقًا إضافيًا. هذا سيجعل التركيز على الشفافية والأمان جزءًا لا يتجزأ من دورة حياة تطوير المنتج.

برأينا، يمكن أن تشجع هذه الضوابط القوية الشركات، وخاصة الشركات الأصغر، على تبني تقنيات الذكاء الاصطناعي بثقة أكبر، حيث أن المخاطر المحتملة ستكون تحت رقابة فعالة. هذا قد يخلق سوقًا أكثر استقرارًا وموثوقية للحلول المعتمدة على الذكاء الاصطناعي، مما يعود بالفائدة على المطورين الذين يبنون هذه الحلول.

المصدر: theregister.com

SAP تفتح AI لعملاء On-Premise لكن بشروط Cloud
بعد تعطل M365: دعوة لـ«حجب رضا» ضد مايكروسوفت

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل