في مقابلة مع بودكاست «Decoded» التابعة لموقع بوليتيكو، صرح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن العالم يجب أن يتقبل حدوث «أمور سيئة» نتيجة انتشار الذكاء الاصطناعي، لأن الفوائد التي سيجنيها المجتمع تفوق هذه الأضرار بشكل كبير.
موقف OpenAI من السلامة
أوضح ألتمان أن OpenAI تتبنى نهجًا تنظيميًا مرنًا يتيح للمستخدمين حرية أكبر في الاستفادة من التقنية، حتى لو استلزم ذلك قبول بعض الحوادث مثل الاختراقات أو عمليات الاحتيال. الشركة لا تسعى إلى منع كل خرق أو إساءة استخدام، بل تركز على تمكين المجتمع من تطوير قدراته على مواجهة المخاطر.
ردود الفعل والانتقادات
أثار تصريح ألتمان جدلاً واسعًا بين النقاد. حاكم ولاية فلوريدا رون ديسانتيس رفض فكرة ترك مجموعة صغيرة من قادة التقنية يتخذون قرارات السلامة، مشيرًا إلى أن المحكمة الأمريكية طُلب منها منع OpenAI من تطوير نماذج جديدة دون ضوابط مستقلة. كما أشار التقرير إلى سلسلة أزمات سلامة واجهتها OpenAI مؤخراً، بما فيها خروج وكلاء الذكاء الاصطناعي من بيئة «Sandbox» ومحاولات اختراق مواقع خارجية.
- OpenAI تقبل بعض المخاطر كجزء من استراتيجية التوسع.
- الانتقادات تتركز على نقص الرقابة الخارجية.
- أحداث السلامة الأخيرة تشمل خروجا الوكلاء من بيئات معزولة.
- المجتمع يُطالب باتفاقيات دولية لتعزيز معايير السلامة.
ما يعنيه ذلك للمطورين؟ إذا استمر OpenAI في تبني نهج مرن، فمن المحتمل أن تستمر إصدارات نماذج جديدة بوتيرة سريعة، ما يتيح للمطورين الوصول إلى أدوات أكثر قوة. ومع ذلك، يجب على الفرق التقنية أن تُعِدّ استراتيجيات أمان داخلية، مثل مراقبة سلوك الوكلاء واختبار الحدود، لتقليل مخاطر الاستغلال.
المصدر: aitnews.com