في خطوة هامة تهدف إلى تعزيز الاستقرار المالي وحماية المستهلكين، أصدرت سلطة النقد السنغافورية (MAS)، وهي البنك المركزي والجهة المنظمة للصناعة المالية في سنغافورة، أول «إرشادات لإدارة مخاطر الذكاء الاصطناعي للمؤسسات المالية». هذه الإرشادات الجديدة تفرض على جميع الجهات الفاعلة في القطاع المالي المحلي الخضوع لمراجعة مستقلة لحالات استخدام الذكاء الاصطناعي قبل نشرها.
توضح الإرشادات أن استخدام الذكاء الاصطناعي يمكن أن يحسن الأداء عبر مجالات الأعمال، ولكن طبيعته المعقدة والاحتمالية تؤدي إلى زيادة عدم اليقين والسلوك غير المتوقع أو المتحيز الذي يصعب تحديده مقارنة بالأساليب الأبسط. ترى سلطة النقد السنغافورية أن الذكاء الاصطناعي التوليدي (Generative AI) أكثر خطورة بسبب تعقيده الأكبر، بينما يمكن أن تزيد وكلاء الذكاء الاصطناعي (Agentic AI) هذه المخاطر بشكل أكبر.
إدارة المخاطر والمساءلة عن الذكاء الاصطناعي
تدعو سلطة النقد السنغافورية المؤسسات المالية إلى توسيع أطر إدارة المخاطر الخاصة بها لتشمل الذكاء الاصطناعي، وتتوقع أن يضمن مجلسا الإدارة والإدارة العليا ذلك. قبل النشر، يجب أن تخضع حالات استخدام الذكاء الاصطناعي، بما في ذلك الأنظمة أو النماذج الأساسية، لمراجعات من قبل أطراف غير مشاركة في تطويرها، لضمان الالتزام بالضوابط ذات الصلة مثل التقييم والاختبار. كما تتطلب الإرشادات إجراء مراجعات تقنية وأمن سيبراني لضمان نشر الذكاء الاصطناعي في بيئة الإنتاج بطريقة محكومة وآمنة.
تؤكد الإرشادات على أهمية المراقبة المستمرة لكل من أنظمة المؤسسة الخاصة وأي ذكاء اصطناعي تابع لجهة خارجية يدعم التطبيق، وذلك بسبب الطبيعة الديناميكية للذكاء الاصطناعي وإمكانية تدهور الأداء بمرور الوقت. لا تعتبر سلطة النقد السنغافورية إخفاقات موردي الذكاء الاصطناعي التابعين لجهات خارجية عذراً مقبولاً لمشاكل الذكاء الاصطناعي، وتلزم المؤسسات المالية بمراقبة منتجات وخدمات مورديها لضمان استقرارها وأمنها. يجب على المؤسسات الحصول على ضمانات كافية وتقييم مدى ملاءمة الذكاء الاصطناعي من الجهات الخارجية، وتطبيق ضوابط تعويضية عند الضرورة.
بالإضافة إلى ذلك، يجب على المؤسسات المالية السنغافورية الاحتفاظ بقوائم جرد محدثة لجميع أنظمة الذكاء الاصطناعي المستخدمة في أعمالها. إذا لم يكن ذلك ممكناً بسبب استخدام خدمات جهات خارجية للذكاء الاصطناعي دون الكشف عنه، فيجب على المؤسسات إيجاد طرق لإدارة مخاطر مساهمات الذكاء الاصطناعي غير المعروفة. وتدعو الإرشادات أيضاً إلى تطوير خطط طوارئ وخيارات بديلة لحالات استخدام الذكاء الاصطناعي عالية المخاطر، مثل الأنظمة البديلة أو العمليات اليدوية، لضمان استمرارية الأعمال في حالة فشل الذكاء الاصطناعي أو سلوكه غير المتوقع. ستدخل هذه الإرشادات حيز التنفيذ في 7 أكتوبر 2027.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين، تمثل هذه الإرشادات تحولاً مهماً في كيفية التعامل مع تطوير ونشر حلول الذكاء الاصطناعي، خاصة في القطاعات الحساسة. يعني ذلك ارتفاع سقف المتطلبات لجودة أنظمة الذكاء الاصطناعي، مع التركيز على الشفافية وقابلية التدقيق. يجب على المطورين تصميم أنظمة الذكاء الاصطناعي بحيث يمكن تفسيرها واختبارها بدقة من قبل أطراف ثالثة مستقلة، مع توثيق واضح للمكونات والقرارات التي تتخذها النماذج.
كما ستفرض هذه الإرشادات ضرورة إجراء اختبارات صارمة للموثوقية، وتحديد التحيزات المحتملة، وتخطيط استباقي لسيناريوهات الفشل. وبالنسبة للمصممين، يجب أخذ خيارات العودة إلى العمليات اليدوية أو الأنظمة البديلة في الاعتبار عند تصميم تجارب المستخدم للأنظمة المدعومة بالذكاء الاصطناعي، لضمان استمرارية الخدمة وتقليل الاضطرابات في حالة حدوث مشكلات. هذه الخطوة من سنغافورة يمكن أن تكون مؤشراً على اتجاه عالمي لتنظيم الذكاء الاصطناعي، مما يجعل المساءلة وإدارة المخاطر جزءاً لا يتجزأ من دورة حياة تطوير أي منتج يعتمد على الذكاء الاصطناعي.
المصدر: theregister.com