أعلن المُراقب المالي في المملكة المتحدة عن توجيهٍ جديد للشركات يطالبها بالإبلاغ عن أي إخفاقات مهمة للذكاء الاصطناعي وكذلك «الحوادث الوشيكة» (near-misses). يأتي هذا التوجيه مع تزايد الأنظمة المستقلة المدعومة بالذكاء الاصطناعي، والتي تُثير بدورها مخاطر جديدة تستدعي تقييمًا مستمرًا.
المخاطر المتزايدة والحاجة للمساءلة
في حديثها خلال سلسلة سياسات Bloomberg بالمملكة المتحدة يوم الاثنين، أوضحت جيسيكا روسو، كبيرة مسؤولي البيانات والمعلومات والاستخبارات في هيئة السلوك المالي (FCA)، أن بريطانيا تسعى لقيادة التبني الآمن للذكاء الاصطناعي في الخدمات المالية. وأكدت أن الذكاء الاصطناعي الذي لا يُدار بشكل جيد يمكن أن يتسبب في أضرار للمستهلكين، ونقاط ضعف سيبرانية، وإخفاقات تشغيلية، وبسرعة ونطاق أكبر بكثير مما اعتدنا عليه.
وأضافت روسو أن القواعد الحالية تلزم الشركات بالإبلاغ عن الحوادث الكبرى، ويجب أن يمتد ذلك ليشمل إخفاقات الذكاء الاصطناعي المهمة والحوادث الوشيكة. وقد سبق أن أقر وزير الذكاء الاصطناعي كانيشكا نارايان بأن الإبلاغ عن الحوادث الوشيكة لأنظمة الذكاء الاصطناعي الوكيلية (agentic AI) أصبح أولوية للأمن القومي. يساهم القطاع المالي البريطاني بنحو 223.6 مليار جنيه إسترليني في الاقتصاد الوطني لعام 2025، ما يمثل 8 في المائة من الناتج القومي.
الدروس المستفادة والمسار التشريعي
لتعزيز هذا التوجه، اقترح ستيفن أدلر، المؤسس المشارك وكبير العلماء في منظمة Guidelight AI Standards غير الربحية، على البرلمانيين الأسبوع الماضي أن الإشراف على الذكاء الاصطناعي يمكن أن يستلهم من قطاع الطيران، حيث الإبلاغ عن الحوادث الوشيكة إلزامي في معظم الولايات القضائية. فمن خلالها، لا يتم التعلم من الكوارث الكبرى فحسب، بل من المواقف التي كادت أن تتسبب بها، مما يساعد على تجنبها مستقبلاً.
تخطط الحكومة البريطانية للعمل مع البرلمان والخبراء التقنيين لتعزيز الإطار التنظيمي لحماية البلاد من التهديدات السيبرانية التي يقودها الذكاء الاصطناعي ومخاطر فقدان السيطرة. ومع ذلك، لم تلتزم الحكومة بعد بإضافة تدابير خاصة بالذكاء الاصطناعي إلى مشروع قانون الأمن السيبراني والمرونة. وفي يناير، دعت لجنة الخزانة في مجلس العموم الجهات التنظيمية المالية لإجراء اختبارات إجهاد لضمان استعداد الشركات للصدمات السوقية التي يقودها الذكاء الاصطناعي، مع ضرورة تحديد خطوط واضحة للمساءلة.
برأينا، هذا التطور يعني أن على المطورين والمصممين الذين يعملون على أنظمة الذكاء الاصطناعي، خصوصًا في القطاع المالي، أن يولوا اهتمامًا أكبر لمرونة هذه الأنظمة وقدرتها على التسجيل والإبلاغ عن أي سلوك غير متوقع. يتطلب الأمر تصميمًا يسمح بالمساءلة الشفافة، والتحقيق في «الحوادث الوشيكة» بنفس جدية الإخفاقات الكبرى، والتركيز على بناء نماذج قوية وآمنة من البداية لتلبية المعايير التنظيمية المتزايدة.
المصدر: theregister.com