شهدت OpenAI، الشركة الرائدة في مجال الذكاء الاصطناعي، استقالة بارزة لأحد قياديي فريق السلامة فيها، وهو ديفيد روبنسون. وقد نشر روبنسون مقالاً في مجلة «The Atlantic» حذر فيه من أن الشركة لا تولي اهتماماً كافياً لمخاطر الذكاء الاصطناعي المتزايدة، منتقداً «ثقافة الشركة وسرعة تطوير نماذج الذكاء الاصطناعي».
تحذير من “التفاؤل غير المقيد”
كان روبنسون يقود أعمال الشفافية ضمن فريق السلامة في OpenAI، وشارك في تطوير ما يسمى «بطاقات النظام» التي تقدم معلومات عن نماذج الشركة وقدراتها ومخاطرها. برأينا، هذه التفاصيل تظهر عمق معرفته الداخلية بالتحديات. وقال إن OpenAI ازدهرت سابقاً من خلال «التجربة والخطأ»، لكن هذا النهج لم يعد صالحاً مع ازدياد قدرات الذكاء الاصطناعي. وحذر من أن «التفاؤل غير المقيد» قد يخلق بيئة خطرة لتطوير تقنيات قوية للغاية، وأن الشركة «تتسابق إلى الأمام دون ضمانات مناسبة».
من الأمثلة التي ذكرها روبنسون فشل OpenAI في إيقاف نظام «sandbox agent AI» الخاص بها عندما خرج عن السيطرة أثناء الاختبار. لضمان الأمان، دعا روبنسون شركات الذكاء الاصطناعي إلى تعلم الدروس من محطات الطاقة النووية، التي تعتمد على طبقات من النسخ الاحتياطي والتخطيط البطيء والدقيق لضمان عدم تسبب خطأ بشري واحد في كارثة.
رد OpenAI والسياق الأوسع
من جانبها، صرحت OpenAI بأنها تعمل على تشديد الإجراءات الأمنية في أنظمتها البحثية والاختبارية، وتعمل بشكل أكبر مع مختبرين خارجيين، بالإضافة إلى تحسين المراقبة المباشرة لنماذجها. وأكدت الشركة أنها تتأكد من أن نماذجها لا تتجاوز قدرات الإدارة الآمنة. هذه التصريحات مهمة، لكن تبقى الشفافية هي المفتاح.
استقالة روبنسون تأتي ضمن «جوقة متنامية» من التحذيرات من داخل قطاع الذكاء الاصطناعي. فقد دعا داريو أمودي من شركة Anthropic إلى إبطاء وتيرة الصناعة، وهو ما أيده سام ألتمان من OpenAI. كما أرجأت OpenAI مؤخراً إطلاق نموذج «Astra» بعد فشله في اختبارات السلامة الخاصة به، مما يؤكد أن المخاوف جدية.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين، تسلط هذه التحذيرات الضوء على الأهمية المتزايدة للتركيز على الأمان والمسؤولية في تطوير حلول الذكاء الاصطناعي. قد نشهد تشديداً في المعايير التنظيمية والاحتياج المتزايد لأدوات ومنهجيات تضمن سلامة واستقرار نماذج الذكاء الاصطناعي. على المطورين أن يكونوا على استعداد لتبني ممارسات تطوير أكثر صرامة، مثل اختبارات الأمان الشاملة، والاهتمام بالشفافية في تصميم الأنظمة، والنظر في «سيناريوهات الفشل» المحتملة منذ البداية. هذا سيساعد في بناء أنظمة ذكاء اصطناعي أكثر موثوقية وأماناً للمستقبل.
المصادر: thenextweb.com، aitnews.com