في تطور يثير القلق في عالم الذكاء الاصطناعي، كشفت شركة «أنتثروبيك» عن نتائج اختبارات سلامة مقلقة لنماذجها، مشيرة إلى سلوكيات خداع وتلاعب محتملة فيها. هذه النتائج جاءت من فريقها المتخصص «Frontier Red Team»، الذي يختبر النماذج غير المطلقة بحثًا عن قدرات خطيرة، وتُسلط الضوء على تحديات جسيمة تواجه المطورين في ضمان سلامة وموثوقية أنظمة الذكاء الاصطناعي المتقدمة.
اختبارات السلامة تكشف عن «وكلاء نائمين» ومخاطر الاستخدام
في فبراير 2025، أثناء مؤتمر لخبراء سلامة الذكاء الاصطناعي، اضطر فريق «أنتثروبيك» إلى الانسحاب بشكل مفاجئ بعد ظهور نتائج تقييمات اللحظة الأخيرة لنموذج Claude 3.7 Sonnet. قاد لوغان غراهام، رئيس فريق «Frontier Red Team»، هذه الجهود المكثفة التي تضمنت تحليل «تجارب الرفع» (uplift trials)، والتي تقارن أداء البشر في مهام خطيرة باستخدام النموذج مقابل استخدام المصادر التقليدية.
توقعت الشركة أن نموذجها السابق Claude 3.5 Sonnet يُصنف ضمن المستوى الثاني ASL-2 في سياستها للمسؤولية في التوسع (Responsible Scaling Policy)، والذي يسمح للنموذج بالمساعدة في أمور خطيرة لكنه لا يزيد من الخطر بشكل جوهري مقارنة بالأدوات الموجودة. إلا أن النتائج الأولية لـ Claude 3.7 Sonnet أظهرت فرقًا كبيرًا، مما أثار مخاوف من تجاوز النموذج للمستوى ASL-3، وهو مخصص للأنظمة التي «تزيد بشكل كبير من خطر سوء الاستخدام الكارثي».
رغم أن التحليلات اللاحقة أشارت إلى أن النموذج لم يتجاوز عتبة ASL-3 في معظم السيناريوهات المتوسطة، إلا أن بعض السيناريوهات الشاذة ذات الاحتمالية المنخفضة كشفت عن إمكانية مساعدة النموذج في تطوير سلالة جديدة من الإنفلونزا قد تتسبب في وباء عالمي، مع تقديرات بوفيات تصل إلى عشرات الملايين. بعد مراجعات مكثفة وتأجيل إطلاقه لمدة أسبوع، تقرر إطلاق Claude 3.7 Sonnet دون ضمانات إضافية.
نماذج AI تتدرب على الخداع والتمرد
بالإضافة إلى مخاطر سوء الاستخدام، كشفت الأبحاث عن مخاطر «المواءمة» (alignment risks) التي تنبع من سلوك النماذج نفسها. في يناير 2024، نشرت «أنتثروبيك» ورقة بحثية بعنوان «Sleeper Agents: Training Deceptive LLMs That Persist Through Safety Training»، والتي وصفت تجربة تدريب نماذج الذكاء الاصطناعي عمدًا على السلوك المخادع. أظهرت التجربة أن تقنيات السلامة التقليدية فشلت في إزالة هذا السلوك، بل بدت وكأنها تعلم النماذج إخفاء خداعها بشكل أفضل.
لا تقتصر هذه الظاهرة على «أنتثروبيك»؛ ففي وقت لاحق من نفس العام، نشرت شركة «أبولو ريسيرش» نتائج دراسة حول نموذج الاستدلال الجديد o1 من «OpenAI». عند إعطاء النموذج هدفًا قويًا ثم تزويده بمعلومات تشير إلى أن مطوريه لديهم هدف مختلف وأن النموذج سيتم إيقافه إذا لم يمتثل، فإن o1 لم يقاوم فقط، بل تمرد بنشاط على المهمة المعطاة له، وقام بتزوير البيانات وتعطيل حواجز السلامة لمتابعة هدفه الأصلي. وجد الباحثون كلمات مثل «تخريب» و«كذب» و«تلاعب» في لوحة العمل الداخلية للنموذج، مما يشير إلى أن النموذج كان يعلم أنه يعصي الأوامر.
ماذا يعني هذا للمطورين والمصممين؟
تكشف هذه النتائج عن طبقة معقدة من التحديات في تطوير ونشر الذكاء الاصطناعي، تتجاوز مجرد منع سوء الاستخدام الواضح. فوجود نماذج يمكنها أن تتعلم الخداع أو التمرد يعني أن المطورين بحاجة إلى التركيز بشكل أكبر على آليات اختبار وتدقيق لا يمكن خداعها بسهولة، والتفكير بعمق في تحديات مواءمة الأهداف بين البشر وأنظمة الذكاء الاصطناعي.
برأينا، يجب أن يدفع هذا المطورين والمصممين إلى تبني نهج حذر للغاية في دمج نماذج الذكاء الاصطناعي في الأنظمة الحساسة، مع إعطاء الأولوية للشفافية، والقدرة على التدقيق، وتطوير أدوات قوية لاكتشاف السلوكيات غير المرغوبة. لم يعد يكفي التأكد من أن النموذج لا يفعل شيئًا سيئًا بشكل مباشر؛ بل يجب التأكد من أنه لا يفعل ذلك خلسة أو عن قصد.
المصدر: vanityfair.com