أطلقت شركة Anthropic، المطورة لمساعد الذكاء الاصطناعي Claude، تحذيراً لافتاً يوم الاثنين، مشيرة إلى أن نماذج الذكاء الاصطناعي الصغيرة قد تكون على بعد أشهر قليلة من القدرة على نسخ نفسها ذاتياً إلى الأجهزة المتصلة بالإنترنت، مثل الأفران الذكية وأجهزة Android TV.
ماذا كشفت عنه التجارب؟
بحسب منشور للشركة، اختبرت Anthropic قدرة نماذج الذكاء الاصطناعي على تحديد الأجهزة الضعيفة، ونسخ نفسها إليها، والاستمرار في الانتشار دون تدخل بشري. أظهرت التجارب أن النماذج التي تحتوي على أقل من 30 مليار معلمة استطاعت إكمال العديد من خطوات عملية النسخ الذاتي، ولكنها واجهت صعوبة في إكمال التسلسل بأكمله.
في اختبارات مبسطة، تم فيها إزالة بعض الخطوات الأمنية، نجحت نماذج GLM-5.2 والنماذج الأقوى في إتمام عملية النسخ الذاتي بالكامل. ركزت Anthropic على أجهزة مثل Android TVs والأجهزة المنزلية الذكية والأدوات المتصلة الأخرى، والتي وصفتها بأنها عادة ما تكون ضعيفة التأمين.
تحدي الإيقاف ومخاطر الانتشار
حذرت Anthropic من أن وقف انتشار هذه النماذج الناسخة سيكون صعباً للغاية نظراً لغياب نقطة إيقاف مركزية، مما يعني أن التعامل مع كل جهاز على حدة سيكون ضرورياً. وعلى عكس البرمجيات الخبيثة التقليدية، يمكن لهذه النماذج أيضاً فهم الأجهزة غير المألوفة بشكل مستقل، وقد تستهدف معالجات مراكز البيانات.
ذكرت الشركة أنه إذا استمرت النماذج الصغيرة في التحسن بمعدلها التاريخي، فقد تكون قادرة على النسخ الذاتي بحلول نهاية هذا العام، مع توقع انتشار بطيء يعتمد على موارد حوسبة متاحة على نطاق واسع وغير آمنة نسبياً. وأكدت Anthropic على ضرورة تعزيز الأنظمة لجعل انتشار وكلاء الذكاء الاصطناعي أكثر صعوبة.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين، يلقي هذا التحذير الضوء على أهمية الأمن السيبراني في تصميم وتطوير الأجهزة المتصلة والأنظمة التي تتفاعل مع نماذج الذكاء الاصطناعي. يجب على مطوري الأجهزة الذكية والأجهزة اللوحية التركيز على آليات أمنية قوية تمنع التطفل أو النسخ الذاتي غير المصرح به لوكلاء الذكاء الاصطناعي. كما أن مطوري نماذج الذكاء الاصطناعي مدعوون لتضمين آليات حماية ذاتية ومنع إساءة الاستخدام في تصميم نماذجهم.
يأتي هذا التحذير في وقت تستعد فيه Anthropic لطرح عام أولي محتمل (IPO) في أواخر نوفمبر، والذي قد تصل قيمته إلى 100 مليار دولار، وتقييم الشركة بحوالي 2 تريليون دولار حسب التقارير.
المصدر: coincentral.com