شهدت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، طرد ثلاثة من باحثي الأمان لديها الأسبوع الماضي، وهو ما أثار جدلاً واسعاً حول الأسباب الحقيقية وراء هذه القرارات. الباحثون الثلاثة، وهم ميكيتا باليسني، وتوماك كورباك، وجاسمين وانغ، عملوا جميعاً على أمان الذكاء الاصطناعي ومواءمته لضمان تصرف الأنظمة كما هو متوقع وبأمان.
مزاعم الباحثين مقابل رد OpenAI
يزعم الباحثون أنهم فُصلوا من عملهم بعد أسابيع من مشاركتهم في تحقيق حادثة اخترق فيها وكلاء OpenAI شركة Hugging Face بشكل مستقل أثناء خضوعهم للاختبار. صرح كورباك على X بأن سبب طرده هو كيفية تواصله مع منظمة METR لأمان الذكاء الاصطناعي، والتي كانت OpenAI قد دخلت في شراكة معها للتحقيق في حادثة Hugging Face. يعتقد كورباك أنه تم فصله لأنه كان «يثير مخاوف تتعلق بالسلامة منذ أشهر بأننا نفقد القدرة على مراقبة ما يفكر به وكلاء الذكاء الاصطناعي، وهي إحدى أفضل أدواتنا لاكتشاف سوء سلوكهم».
وبالمثل، قال باليسني إنه أُخبر بأنه «يتحدث كثيراً مع منظمات أمان تابعة لجهات خارجية»، نافياً ضمنياً تسريب الملكية الفكرية لـOpenAI. أما وانغ، فقد أُبلغت بأن سبب فصلها هو وصولها إلى بريد إلكتروني تنفيذي، والذي كان متاحاً لها لأغراض التوظيف، وقد طلبت مراراً إلغاء وصولها هذا. وأوضحت أنها عندما وصلت بالخطأ إلى «رسالة بريد إلكتروني حساسة»، أبلغت المدير التنفيذي وفريق تكنولوجيا المعلومات على الفور. يرى الباحثون أن الأسباب المقدمة لفصلهم «لا تتضافر» ويعتقدون أنهم دُفعوا للخارج لإثارة مخاوف، وأنهم ليسوا الأولين.
في المقابل، صرحت OpenAI لشبكة CNN، وقدمت بياناً داخلياً، بأن الباحثين فُصلوا لانتهاكهم سياسات الشركة المتعلقة بالتعامل مع المعلومات الحساسة، وليس لإثارة مخاوف تتعلق بالسلامة. أكدت الشركة أن التحقيق أثبت أن الأفراد «تعاملوا بشكل خاطئ مع معلومات حساسة خارج إجراءات الشركة المحددة، منتهكين بذلك سياساتنا وخارقين الثقة الأساسية لعملنا». كما شدد مسؤول أبحاث لم يُذكر اسمه في مذكرة داخلية على أهمية العمل مع مجموعات السلامة الخارجية، ونفى أن تكون قرارات الفصل مرتبطة بإثارة المخاوف.
تداعيات على مجتمع المطورين
تثير هذه الحادثة تساؤلات مهمة للمطورين والمصممين الذين يعملون في مجال الذكاء الاصطناعي، خاصة فيما يتعلق بالشفافية وأخلاقيات العمل داخل الشركات الرائدة. يخشى الباحثون المطردون أن تكون هذه الخطوة قد خلقت «ثقافة خوف» داخل OpenAI، حيث يخشى الزملاء التحدث بصراحة أو التعامل مع جهات خارجية. هذا قد يؤثر على الجهود المبذولة لضمان أمان وتوافق أنظمة الذكاء الاصطناعي التي يتم تطويرها.
برأينا، فإن الحفاظ على بيئة تشجع على النقد البناء وإثارة المخاوف المتعلقة بالسلامة أمر حيوي لتطوير تقنيات الذكاء الاصطناعي بطريقة مسؤولة. يجب على الشركات أن توفر آليات واضحة وآمنة للباحثين والمطورين للتعبير عن قلقهم دون خوف من تداعيات مهنية، مع الالتزام الصارم بسياسات حماية البيانات الحساسة.
المصدر: egyptindependent.com