في تطور يثير تساؤلات جدية حول سلامة الذكاء الاصطناعي وحدود استخدامه، كشفت شركة أنثروبيك عن رصدها لحالات عديدة استغل فيها علماء نماذجها المتقدمة للذكاء الاصطناعي، وعلى رأسها نموذج Claude، في أبحاث قد تكون مرتبطة بتطوير أسلحة بيولوجية خطيرة. وقد تحركت الشركة على الفور لإيقاف هذه الأنشطة، مؤكدة التزامها بمنع سوء استخدام تقنياتها.
الكشف عن استخدامات مقلقة
أوضحت أنثروبيك في تقريرها الأخير أنها وثّقت خمس حالات محددة تم فيها استخدام نماذجها في أنشطة قد تساهم في تطوير أسلحة بيولوجية محتملة. يأتي هذا الكشف في وقت تتزايد فيه قدرة نماذج الذكاء الاصطناعي على مساعدة الباحثين في المهام العلمية المعقدة، مما يزيد بدوره من احتمالات إساءة استخدام هذه التقنيات لأغراض ضارة.
أكدت الشركة أن تحديد مثل هذه الاستخدامات يمثل تحديًا كبيرًا، نظرًا لأن بعض الطلبات المرتبطة بالأبحاث الخطرة قد تتشابه في طبيعتها مع أبحاث علمية مشروعة وهامة، مثل تطوير اللقاحات أو دراسة الأمراض المعدية. ونتيجة لذلك، تبنت أنثروبيك نهجًا احترازيًا صارمًا، يتضمن اتخاذ إجراءات حازمة عند ظهور أي مؤشرات على سوء الاستخدام، وذلك لتجنب العواقب المحتملة التي قد تكون كارثية.
أمثلة على سوء الاستخدام في الأبحاث البيولوجية
من بين الحالات التي أبرزها التقرير، رصد نظام مصنف السلامة البيولوجية الخاص بأنثروبيك طلبًا لاستخدام Claude في أبحاث «اكتساب الوظيفة» على فيروس شيكونغونيا. وقد تضمنت المقترحات البحثية تعديلات كان من شأنها زيادة قدرة الفيروس على الانتقال وتعزيز قدرته على تفادي الاستجابة المناعية.
وأشارت أنثروبيك إلى أن المخاوف تضاعفت بسبب ارتباط المشروع المقترح بمعهد أبحاث عسكري. يُعرف مصطلح «أبحاث اكتساب الوظيفة» بأنه دراسات تستكشف كيفية تعديل خصائص الكائنات الحية أو الفيروسات. ورغم أن هذه الأبحاث قد تحمل تطبيقات علمية وطبية قيّمة، إلا أنها تثير قلقًا بالغًا عند استخدامها لزيادة خطورة مسببات الأمراض.
ولم تقتصر الحالات على ذلك، فقد رصدت الشركة أيضًا حالة أخرى مرتبطة بأبحاث اكتساب الوظيفة على إنفلونزا الطيور. وفي حالة ثالثة، استخدم أحد الباحثين Claude للمساعدة في إعداد أطلس لببتيدات السموم، وتطوير منظومة توليدية تهدف إلى تحسين خصائص السموم.
تهديدات تتجاوز المجال البيولوجي
تقرير أنثروبيك لم يقتصر على المجال البيولوجي فحسب، بل وثّق أيضًا حالات إساءة استخدام لنماذجها في قطاعات أخرى حساسة. وشملت هذه الاستخدامات المراقبة، وإنشاء برمجيات استغلال للثغرات الأمنية، وإنتاج مواد دعائية مضللة، بالإضافة إلى تطوير أنظمة أسلحة محتملة.
وفي تعليق له، أشار جاكوب كلاين، رئيس استخبارات التهديدات في أنثروبيك، إلى أن اكتشاف الأنشطة الضارة ليس عملية مباشرة أو سهلة، مؤكدًا أن الواقع أكثر تعقيدًا بكثير من سيناريو يعلن فيه شخص ما صراحة عن نيته تطوير سلاح بيولوجي.
استجابة أنثروبيك والتزامها بالسلامة
كإجراء فوري، قامت أنثروبيك بحظر حسابات المستخدمين الذين ثبت تورطهم في إساءة استخدام نماذجها، سواء كانت Claude أو غيرها من النماذج. وتُستخدم نتائج هذه التحقيقات باستمرار لتطوير وتحسين أنظمة الحماية الخاصة بالشركة، وتعزيز قدرة النماذج على اكتشاف الاستخدامات الخطرة ومنعها مستقبلاً.
وفي خطوة تعكس التوازن بين الشفافية وحماية الأفراد، امتنعت أنثروبيك عن الكشف عن أسماء الباحثين أو المؤسسات المرتبطة بالحالات التي حققت فيها. وأوضحت الشركة أن الأفراد المعنيين هم علماء يعملون في مجال البحث العلمي، ولا يمكنها التأكيد أنهم كانوا ينوون إلحاق الضرر بالآخرين، كما أن الكشف عن هوياتهم أو مختبراتهم قد يعرضهم للأذى.
تعكس هذه الحالات جانبًا بالغ الأهمية من معضلة سلامة الذكاء الاصطناعي. فكلما ازدادت كفاءة النماذج وقدرتها على مساعدة الباحثين والعلماء، ازدادت في المقابل إمكانية دعمها لأبحاث ذات «استخدامات مزدوجة»، أي تلك التي يمكن استخدامها لأغراض مفيدة أو ضارة على حد سواء. هذا الوضع يفرض على شركات الذكاء الاصطناعي مسؤولية كبيرة لتطوير آليات أكثر دقة وفعالية للموازنة بين تمكين البحث العلمي المشروع ومنع أي استخدامات قد تشكل تهديدًا خطيرًا للسلامة العامة والأمن العالمي.