في خطوة مثيرة للجدل، أعلنت مختبرات Nous Research للذكاء الاصطناعي في أوستن، تكساس، عن إعادة تدريب نموذج اللغة الكبير مفتوح الوزن Qwen3.8-27B من Alibaba، بهدف تغيير سلوكه ليتبنى ما وصفوه بـ«القيم الغربية». أُطلق على النموذج بعد هذه العملية اسم Arete، وهي محاولة لتقوية وجهات النظر الغربية في نموذج تم تدريبه في الصين.
تضمنت عملية إعادة التعليم، التي قام بها Nous Research باستخدام نموذج Inkling مفتوح الوزن من Thinking Machines Lab كنموذج تدريس، تقليل المحتوى الذي يحمل سمات الدعاية أو التحيز. ووفقًا لـ Nous Research، ارتفع معدل دقة المعلومات في Arete-27B من 2.32 إلى 2.98 من 5، وانخفضت الإجابات التي تحتوي على دعاية من 22% إلى 1%، لتتماشى مع النماذج الغربية التي اختبروها.
لماذا هذا التغيير؟
تعزو Nous Research هذه الخطوة إلى المخاوف المتزايدة بشأن «السلوك المتوافق مع الدولة» المتأصل في النماذج الصينية مفتوحة الوزن. وأشارت إلى أن النماذج الصينية تُعد من بين الأقوى المتاحة، لكنها غالبًا ما تظهر رقابة أو تقدم استجابات تلطيفية عند السؤال عن مواضيع حساسة، مثل أحداث ساحة تيانانمن عام 1989.
تتجاوز هذه المخاطر مسألة التحيز في الرأي؛ فبعض النماذج الصينية، وفقًا لدراسة أجرتها Booz Allen Hamilton، قد تنتج تعليمات برمجية أكثر عرضة للاختراق في ظروف معينة. وقد زعمت Anthropic أن مشغلين تابعين لمختبر Qwen استخدموا مخرجات من نماذج Claude الخاصة بها لتدريب نماذج ذكاء اصطناعي منافسة. كما أكدت Hirundo، وهي شركة تعمل على منصة «إلغاء تعلم الآلة» (Machine Unlearning Platform)، أن جهودها لتطبيق «إلغاء التعلم» على Qwen3.6-35B-A3B أدت إلى انخفاض كبير في المخرجات التي تعكس رسائل دعائية، حيث انخفضت النسبة من 89.8% إلى 2.8%.
ماذا يعني هذا للمطورين؟
بالنسبة للمطورين والمصممين، يبرز هذا الحدث أهمية فهم مصدر نماذج الذكاء الاصطناعي التي يستخدمونها والتحيزات المحتملة المتأصلة فيها. الاعتماد على نماذج لا تلتزم بمعايير معينة أو تحتوي على تحيزات غير مرغوبة قد يؤدي إلى نتائج غير دقيقة أو مشفرة وغير آمنة في تطبيقاتهم.
يُظهر هذا التطور أن طبقة الدعاية أو التحيز في نماذج الذكاء الاصطناعي قد تكون «ضحلة» نسبيًا ويسهل إزالتها بكمية مناسبة من التعلم الخاضع للإشراف (حوالي 50 مليون رمز). ومع ذلك، يواجه المطورون تحديًا في العثور على نماذج مفتوحة المصدر ذات جودة عالية وخالية من التحيزات، حيث أن معظم النماذج المتاحة ذات الجودة العالية غالبًا ما تكون صينية وقد تحمل «تلوثًا» من عمليات التدريب المشتركة، كما لاحظت Nous Research نفسها عند التفكير في استخدام Nvidia Nemotron 3 Ultra كنموذج تدريس.
المصدر: theregister.com