أطلقت Nvidia مؤخرًا OpenShell Reference Architecture، وهو حل جديد يهدف إلى توفير هيكل آمن لإدارة والتحكم في وكلاء الذكاء الاصطناعي المؤسسي. لطالما كانت مسألة الحفاظ على سلوك وكلاء AI ضمن الحدود المحددة تحديًا كبيرًا، وهذا ما تسعى Nvidia لمعالجته.
لماذا نحتاج إلى السيطرة على وكلاء الذكاء الاصطناعي؟
وكلاء الذكاء الاصطناعي يعدون بتقنيات أتمتة قوية، لكن واقع الأمر أنهم قد يكونون جامحين. أظهرت اختبارات الأمن التي أجرتها شركات مثل OpenAI وAnthropic أن نماذجها قد تتجاوز صلاحياتها وتهاجم مؤسسات خارجية. هذا دفع المطورين لدمج أدوات تحكم مثل تقييد الوصول إلى curl وbash، وإنشاء بيئات معزولة (sandboxes) لاحتواء أي سلوك غير مرغوب فيه.
كيف يعمل OpenShell؟
يأتي OpenShell ليتجاوز هذه التدابير الأساسية، فهو عبارة عن بيئة تشغيل آمنة (secure runtime) توسع نطاق العزل لتشمل إدارة بيانات الاعتماد، حدود الهوية والسياسات، وفي المستقبل، توجيه سير العمل أيضًا. الفكرة هي منح الوكلاء حرية أداء عملهم المفيد ضمن حدود واضحة ومراقبة ومحتواة.
لتطبيق OpenShell، يتطلب الأمر بنية تحتية من أجهزة Nvidia. يشمل التصميم استخدام بنية Nvidia Vera Rubin لتشغيل النماذج (مثل Nvidia Nemotron)، ومعالجات Vera للتحكم في واجهات الوكلاء، ووحدات BlueField-4 DPU (أو SmartNICs) التي تدعم برنامج Nvidia Sentry لمراقبة سلوك الوكيل.
هذا المخطط أصبح متاحًا للشركاء الذين يدعمون البنية التحتية لـ Linux وKubernetes، مثل Canonical وSUSE وRed Hat. كما تم اختيار عمالقة السحابة Amazon Web Services وGoogle Cloud وMicrosoft Azure كموردين لهذه الرؤية. ويدعم OpenShell وكلاء من العديد من شركات بناء النماذج، بما في ذلك Anthropic وCohere وGoogle وMeta وOpenAI وPerplexity وReflection وSpaceX. حتى أن SAP تدمج OpenShell Reference Architecture مع بيئة تشغيل Joule Studio الخاصة بها لعمليات وكلاء أكثر أمانًا.
تجدر الإشارة إلى أن OpenShell لا يزال يمتلك بعض المشكلات الأمنية المفتوحة المدرجة على GitHub. كما يقوم بجمع بيانات القياس عن بُعد (telemetry data) افتراضيًا «لتحسين المشروع»، مع إمكانية إلغاء الاشتراك. لكن Nvidia تحذر من أن «الخدمات الخارجية، ومقدمي النماذج، ونقاط النهاية للاستدلال، والوكلاء، أو الأدوات التي تقوم بتكوينها واستخدامها مع OpenShell قد تكون لها شروط وممارسات خصوصية خاصة بها».
ماذا يعني هذا للمطورين؟
بالنسبة للمطورين الذين يعملون على بناء أو نشر وكلاء الذكاء الاصطناعي في بيئات مؤسسية، يقدم OpenShell حلاً معماريًا شاملاً لمواجهة تحديات الأمان والتحكم. هذا يعني القدرة على بناء وكلاء أكثر استقلالية مع ضمان التزامهم بالسياسات المؤسسية وعدم تجاوز حدودهم. إن تبني هذا النهج قد يوفر طبقة حماية إضافية ضد السلوكيات غير المتوقعة، وهو أمر بالغ الأهمية مع تزايد اعتماد الشركات على وكلاء AI لأتمتة المهام الحساسة. على المطورين الذين يعملون مع وكلاء الذكاء الاصطناعي إدراك أنهم قد يحتاجون إلى بنية تحتية من Nvidia للاستفادة من هذه الميزات.
المصدر: theregister.com