لطالما كان التحدي الأمني المتمثل في تشغيل الأكواد غير الموثوقة مسألة معقدة للمطورين. ومع ازدهار وكلاء الذكاء الاصطناعي القادرين على كتابة الأكواد وتنفيذها، يصبح هذا التحدي أكثر إلحاحًا. هنا يأتي دور نمط الصندوق الرمل الخارجي، وهو حل جديد يهدف إلى توفير بيئة آمنة لهذه الوكلاء.
بالتعاون مع مختبر Prime Radiant للأبحاث في مجال الذكاء الاصطناعي، تم تقديم هذا النمط الذي يفصل بين وكيل الذكاء الاصطناعي وبيئة تشغيل الأكواد التي يولدها. بعبارة أخرى، يعيش الوكيل في الخارج بينما يتم تنفيذ الكود داخل صندوق رمل مخصص ومعزول بالكامل.
لماذا نحتاج للصناديق الرملية الخارجية؟
الفكرة الأساسية وراء هذا النمط هي حل مشكلة الثقة. عندما يُطلب من وكيل AI كتابة كود، قد يحتوي هذا الكود على ثغرات أمنية غير مقصودة، أو حتى يمكن استغلاله للوصول إلى أنظمة حساسة. من خلال تشغيل الكود في بيئة معزولة، نضمن أن أي إجراء ضار محتمل يظل محتجزًا داخل الصندوق الرملي، مما يحمي النظام الأساسي.
نمط الصندوق الرمل الخارجي يسمح بتجربة مقاربات مختلفة لتشغيل الأكواد غير الموثوقة بأمان، ويقدم حلاً أنيقًا لهذه المعضلة الأمنية التي تواجه تطوير وكلاء AI.
حلول عملية مطروحة وميزات أمنية
تم إطلاق ثلاث تطبيقات لخادم الصندوق الرمل لتوضيح هذا النمط، وجميعها توفر نفس واجهة برمجة التطبيقات (API) على localhost، مما يسهل التكامل مع وكلاء AI مثل Pi وClaude Code وCodex:
- external-sandbox-v86: يعمل كخادم Node.js يستخدم v86 لتشغيل Alpine Linux داخل WebAssembly.
- external-sandbox-container: خادم ويب Python يشغل الصندوق الرملي في Alpine Linux ضمن بيئة Apple Containers.
- external-sandbox-quicksand: خادم ويب Python آخر، يستخدم مكتبة Quicksand من Microsoft، والتي تضم QEMU وAlpine Linux في حزمة Python واحدة.
تتضمن هذه الصناديق الرملية أيضًا وكيلًا اختياريًا لقائمة السماح لبروتوكولات HTTP/HTTPS، والذي يتيح التحكم الدقيق في المضيفين المسموح لكود الوكيل بالتواصل معهم. كما توجد آلية لاستبدال بيانات الاعتماد لإجراء مكالمات API المصادق عليها دون مشاركة الأسرار الحساسة مع الوكيل، مع واجهة مستخدم لسهولة التكوين.
ما الذي يعنيه هذا للمطورين؟
بالنسبة للمطورين والمصممين الذين يعملون مع وكلاء الذكاء الاصطناعي، يمثل هذا النمط خطوة كبيرة نحو تبني هذه التقنيات بأمان أكبر. نرى أن هذه الأدوات ستوفر الثقة اللازمة لتجربة وكلاء AI القادرين على توليد الأكواد وتعديلها، دون الخوف من العواقب الأمنية غير المرغوبة. يتيح هذا للمطورين التركيز على ابتكار حلول قوية ومؤتمتة باستخدام الذكاء الاصطناعي، مع ضمان بيئة عمل آمنة ومتحكم بها.
المصدر: simonwillison.net