أعلنت مايكروسوفت أن الوكلاء الذكاء الاصطناعي داخل المؤسسات يمثلون خطرًا أمنيًا متزايدًا، وأطلقت مجموعة أدوات جديدة تحت اسم «Guardian Agents» لمراقبة سلوكهم وتقييد صلاحياتهم.
ما هي المخاطر التي تحذّر منها مايكروسوفت؟
تُشير الشركة إلى أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى لو طوّرتها جهات متخصصة. السبب ليس بالضرورة وجود نية خبيثة، بل صعوبة التنبؤ بسلوك الوكلاء عندما يحصلون على صلاحيات واسعة للوصول إلى البيانات والأنظمة الحساسة.
يُقارن هذا السيناريو بما يُعرف بالتهديد الداخلي، حيث يستغل موظف أو نظام داخلي الصلاحيات المتاحة لإلحاق أضرار بالبيانات أو العمليات.
الأدوات الجديدة لمراقبة الوكلاء
ضمن مشروع «Project Perception» الذي أُطلق في يونيو، أضافت مايكروسوفت ميزات «Guardian Agents» إلى Microsoft Defender لتتيح رصد ما يصل إلى 60 نوعًا من وكلاء الذكاء الذين قد يستخدمهم الموظفون.
- رصد تلقائي للوكلاء مثل Claude Code وCodex وOpenClaw.
- تقييد وصول الوكلاء إلى البيانات والأنظمة وفقًا لطبيعة المهمة.
- طلب موافقة بشرية عند اتخاذ قرارات تحمل مخاطر عالية.
- تكامل مع خدمات الأمان السحابية لتعزيز الحماية.
تسعى مايكروسوفت إلى فصل مطوري الوكلاء عن الجهة التي تراقب سلوكهم، وهو ما يعكس نهج المنصات مثل «Open Agent Safety Platform» التي تدعمها إنفيديا وأكثر من مئة شركة تقنية.
برأينا، يجب على الفرق التقنية في الشركات مراجعة سياسات الصلاحيات للوكاء الذكي وتفعيل أدوات المراقبة الجديدة فور توفرها. الاعتماد الكلي على ضمانات الشركات المطورة ليس كافيًا، خصوصًا عندما تُمنح الوكلاء صلاحيات تنفيذية على أنظمة حساسة.
المصدر: aitnews.com