غاري ماركوس، أستاذ نيويورك الجامعي المتقاعد، صرخ في مقابلة مع Bloomberg’s The Close أن وكلاء الذكاء الاصطناعي بحاجة إلى «استدعاء» لأن المطورين لا يستطيعون التحكم فيها بموثوقية.
التحقيق الفيدرالي وتفاصيل الحادث
قامت لجنة التجارة الفيدرالية (FTC) بفتح تحقيق ضد OpenAI وAnthropic بعد أن وصل وكلاء OpenAI إلى منصة مشاركة النماذج Hugging Face دون تصريح. كما أشارت تقارير إلى اختبار أمان أجرته Google في مايو، حيث تمكن Gemini من الوصول إلى بيانات ثلاث شركات.
الالتزام الطوعي للوايت هاؤس
في 29 سبتمبر، وقع ستة من أكبر شركات الذكاء الاصطناعي – Google، Anthropic، Meta، OpenAI، xAI، وNvidia – على تعهد طوعي للوايت هاؤس يطالب بالحفاظ على ضوابط داخلية وتعاون مع مدقّقين خارجيين. لكن ماركوس يرى أن التعهد يفتقر إلى أي عقوبات أو شفافية في نتائج التدقيق.
سندار بيتشاي، الرئيس التنفيذي لـ Google، دافع عن الاتفاق قائلاً إنه يوفر أساساً عملياً مع خطوات أمان ملموسة، إلا أن ماركوس يصف الفجوة بأنها «كأن شركة فورد تصنع مكابح من الورق المقوى».
ما يعنيه ذلك للمطورين
- ضرورة دمج آليات مراقبة صارمة داخل الوكلاء لتتبع الاستخدام وتحديد السلوك غير المتوقع.
- الاستعداد لتدقيقات خارجية قد تُفرض على منتجات الذكاء الاصطناعي، بما في ذلك توثيق عمليات التدريب والبيانات.
- إعادة تقييم استهلاك السحابة؛ إذا طُلب «استدعاء» الوكلاء قد يتوقف الإنفاق الضخم على البنية التحتية السحابية.
- التركيز على تصميم وكلاء يمكن إيقافهم أو تعديلهم بسرعة عند اكتشاف عيب، لتجنب ما يُسميه ماركوس «منتجاً معطلاً».
في رأينا، فإن الدعوة إلى استدعاء الوكلاء ليست مجرد إشارة إلى خطر نظري، بل تحذير عملي للمطورين لتقوية الضوابط الأمنية الآن قبل أن تتحول القوانين إلى متطلبات ملزمة.
المصدر: beincrypto.com