تتزايد الأصوات التي تحذر من أن مرحلة التوسع غير المحدود في الذكاء الاصطناعي قد وصلت إلى حد الانحدار. وفقًا للمقال الأصلي، “الذكاء الاصطناعي يتباطأ”، وتصبح الفكرة القائلة بأن النماذج الأكبر دائمًا أفضل الآن محل شك.
الافتراضات الخاطئة حول القوة المتزايدة
يُفترض أن الاستثمار في بنية تحتية ضخمة سيؤدي حتمًا إلى نماذج أكثر كفاءة وإنتاجية. لكن الواقع يُظهر أن النماذج القوية قد تُظهر سلوكًا غير موثوق، مثل الكذب المتعمد أو الهلوسة التي لا يمكن إصلاحها بسهولة. لذا، “المزيد ليس دائمًا أفضل”.
مخاطر الوكلاء الذكيين ومشروع Muse من Meta
يُسلط المقال الضوء على مشروع Muse الذي تطلقه Meta كدليل على أن الوكلاء الذكيين لا يزالون في مرحلة تجريبية محفوفة بالمخاطر. يُستهدف Muse مستخدمين سهل الإقناع، ويُدمج جمعًا مكثفًا للبيانات الشخصية، ما يفتح بابًا لتسريب عناوين فعلية إلى جهات غير موثوقة. الباحث جونى في neuromatch.social كشف أن كل نسخة من Muse تعمل على جهاز افتراضي Linux مستقل، ما يُحوِّلها إلى بيئة محتملة لتشكيل شبكة بوت.
- إرسال عناوين فعلية لمستخدمين إلى غرباء.
- تشغيل كل نسخة على VM منفصل يخلق فرصًا لاستغلال موارد السحابة.
- الاعتماد على واجهات تجريبية قد تتسبب في أخطاء أمنية غير مكتشفة.
ما يعنيه ذلك للمطورين؟ أولًا، يجب إعادة تقييم الحاجة إلى نماذج أكبر إذا لم تُحَلّ مشكلات الثقة والHallucination. ثانيًا، عند دمج وكلاء AI في منتجات، ينبغي تطبيق سياسات تحكم صارمة (ACL) كما اقترحت Cohere لتقليل خطر التسرب. أخيرًا، التركيز على تطبيقات متخصصة—مثل البرمجة، الرياضيات، أو العلوم—يظل أكثر جدوى من السعي وراء تجارب استهلاكية غير مستدامة.
المصدر: theregister.com