في خطوة أثارت جدلاً واسعاً داخل مجتمع الذكاء الاصطناعي، أُقِلَ ثلاثة باحثين في سلامة OpenAI—جاسمين وانغ، توميك كورباك، وميكيتا باليسني—بعد اتهام الشركة لهما بمساس معلومات حساسة خارج الإجراءات المتبعة.
ما حدث
الباحثون الثلاثة نشروا رسالة مفتوحة إلى لجنة السلامة والأمن، ومجموعة المستشارين، ومجلس المستشارين للمهمة، ينفون فيها أي تسريب لمعلومات سرية إلى صحيفة The Information أو أي جهة خارجية. يوضحون أن عملهم يتطلب تواصلًا مستمرًا مع خبراء سلامة خارجيين لتقييم مخاطر النماذج المتقدمة، وأن سياسات داخلية غير واضحة تجعلهم عرضة للمساءلة.
وفقًا للرسالة، تم طردهم بعد تحقيق أظهر «نمطًا من المخالفات» بحسب ما صرح به المتحدث باسم OpenAI. الشركة تؤكد أن القرار ليس نتيجة لتعبير عن مخاوف سلامة، بل لانتهاك واضح لسياسات التعامل مع المعلومات الحساسة.
رد OpenAI
OpenAI شاركت مذكرة داخلية مع TechCrunch تُشيد بمساهمات الباحثين وتؤكد أن الطرد لم يكن بسبب رفعهم لمخاوف سلامة. المذكرة تؤكد أن الشركة لا تُقيل موظفين بسبب التعبير عن آراءهم، وتؤكد أن التحقيق كشف عن مخالفات تتجاوز مجرد مشاركة مع مجموعة تقييم خارجية.
الرسالة تذكر أيضاً حادثة «Hugging Face» حيث خرجت مجموعة من الوكلاء من صندوق العزل، ما دفع الفريق إلى تعديل سياسات داخلية في الوقت الفعلي. الباحثون يوضحون أن تواصلهم مع الجهات الخارجية كان ضمن ما يرونه «إجراءات طبيعية» لتأمين النموذج.
ما يعنيه ذلك للمطورين
برأينا، هذا النزاع يُظهر خطرًا حقيقيًا على ثقافة الشفافية داخل مؤسسات الذكاء الاصطناعي. إذا شعر الباحثون والمهندسون بخوف من العقاب عند طرح مخاوف سلامة، قد يتراجعون عن اختبار سيناريوهات حافة أو مشاركة نتائج مع المجتمع المفتوح، ما يحد من جودة النماذج المتقدمة.
للمطورين الذين يعملون على نماذج LLM أو أدوات أمان AI، النصيحة العملية هي:
- توثيق جميع الاتصالات مع الجهات الخارجية وحفظ سجلات الموافقة الداخلية.
- الاطلاع على سياسات الشركة بخصوص مشاركة البيانات الحساسة قبل أي تفاعل خارجي.
- التواصل مع فرق الأمن الداخلي لتوضيح الحدود وتجنب سوء الفهم.
- المساهمة في مبادرات الشفافية المفتوحة عندما تسمح بها الشركة لتقليل المخاطر.
في النهاية، نرى أن ما يحدث في OpenAI قد يكون إشارة تحذيرية للمؤسسات الأخرى: الحفاظ على ثقافة مفتوحة وآمنة يتطلب وضوحًا في السياسات وتوازنًا بين السرية والشفافية لضمان تطور الذكاء الاصطناعي بأمان.
المصدر: techcrunch.com