أصدرت سلطة النقد في سنغافورة (MAS) إرشاداتها الأولى لإدارة مخاطر الذكاء الاصطناعي في المؤسسات المالية، مطالبةً كل حالة استخدام للذكاء الاصطناعي بمراجعة مستقلة قبل النشر.
ما هي الإرشادات الجديدة
تشير الإرشادات إلى أن الذكاء الاصطناعي، وخاصة النماذج التوليدية، يحمل تعقيدًا أكبر ومخاطر غير متوقعة بسبب الضوضاء في بيانات التدريب أو عدم تمثيلها للسيناريوهات الفعلية. لذلك يطلب MAS من البنوك والمؤسسات المالية توسيع أطر إدارة المخاطر لتشمل الذكاء الاصطناعي، وتحديد مسؤولية مجلس الإدارة والإدارة العليا.
المراجعة المستقلة يجب أن تشمل تقييم النماذج والأنظمة الأساسية، وضمان تطبيق ضوابط الاختبار والتقييم. كما يلزم MAS المؤسسات بإجراء مراجعات تقنية وأمنية لضمان نشر الذكاء الاصطناعي في بيئة مسيطرة وآمنة.
ما يعنيه ذلك للمطورين
- إضافة طبقة مراجعة مستقلة إلى دورة حياة تطوير الذكاء الاصطناعي، ما قد يطيل زمن الإطلاق.
- ضرورة توثيق جميع نماذج الذكاء الاصطناعي المستخدمة، حتى إذا كانت مقدمة من طرف ثالث غير شفاف.
- إنشاء خطط طوارئ تشمل بدائل يدوية أو أنظمة تقليدية في حال فشل النموذج أو انحراف الأداء.
- مراقبة مستمرة للانحرافات في البيانات أو النماذج لتجنب تدهور الأداء مع مرور الوقت.
برأينا، هذه المتطلبات ستدفع بفرق التطوير إلى تبني ممارسات DevSecOps أكثر صرامة، وتطبيق أدوات مراقبة الأداء والاختبار الآلي للذكاء الاصطناعي. على المطورين الذين يعملون في الفينتك أن يجهزوا مستندات تقييم المخاطر ويختاروا مزودي خدمات ذكاء اصطناعي يمكنهم تقديم ضمانات واضحة.
الإرشادات سارية اعتبارًا من 7 أكتوبر 2027، ما يعني أن المؤسسات التي تخطط لاستخدام نماذج توليدية أو وكلاء ذكيين في الخدمات المالية يجب أن تبدأ الآن في إعداد عمليات المراجعة المستقلة لتفادي أي تأخير في الإنتاج.
المصدر: theregister.com