نُشرت مؤخرًا لغة برمجة جديدة مفتوحة المصدر تُدعى KillSwitch، صُممت بهدف تحدي نماذج اللغة الكبيرة (LLMs) وإرباكها. هذه اللغة، التي طورها دومينيك بيشيتا، مهندس برمجيات أول في فريق Workers Runtime في Cloudflare ومطور رئيسي للغة Nim، تمثل تجربة فريدة في كيفية تفاعل الذكاء الاصطناعي مع الشفرات البرمجية.
فلسفة KillSwitch في الإرباك
تتجاوز KillSwitch المفاهيم التقليدية للغات البرمجة. فهي لا تحتوي على أقواس أو معايير تنسيق، بل تعتمد على كتل نصية نثرية تتخللها وظائف ومتغيرات وعبارات مكتوبة بطريقة تجعلها مربكة قدر الإمكان لنماذج LLM. على سبيل المثال، تُستخدم الظروف (adverbs) كمعرفات، ويتطلب استدعاء هذه المعرفات استخدام كلمات مشتقة من الظرف الأصلي.
من أبرز ميزات KillSwitch هي دمج «الأكاذيب» المتعمدة في وثيقة المواصفات الخاصة بها، المتوفرة على GitHub. هذه الأكاذيب مصممة لاختبار قدرة نماذج LLM على التمييز بين الحقيقة والخيال، وأيضًا لتشغيل ضوابط الأمان الخاصة بالعديد من النماذج. يرى بيشيتا أن البشر يمكنهم استنتاج الأكاذيب، بينما قد تقع نماذج الذكاء الاصطناعي في فخها بسهولة.
نتائج الاختبارات وتحديات المستقبل
اختبر بيشيتا عددًا من نماذج LLM الكبرى على KillSwitch، وكانت النتائج مثيرة للاهتمام. أفضل نموذج حقق 66.8 بالمئة فقط في مهام البرمجة، بينما فشلت معظم النماذج في تجاوز 50 بالمئة. يشير بيشيتا إلى أنه حتى لو تم تدريب الذكاء الاصطناعي على KillSwitch، فإنه سيظل يواجه صعوبة في بناء مهام أكثر تعقيدًا تتطلب كتابة نصوص برمجية أطول وأكثر تعقيدًا.
يعتقد بيشيتا أن إرباك الذكاء الاصطناعي بلغات مثل KillSwitch لن يدوم طويلاً مع كونها مفتوحة المصدر وعرضة لجمع البيانات. ومع ذلك، فهو متحمس لرؤية كيف ستظهر KillSwitch في تدريب النماذج المستقبلية، وكيف يمكن الاستفادة من هذا التدريب لـ«كسر» نماذج LLM بطرق جديدة مع تطور اللغة.
ما يعنيه هذا للمطورين
تثير KillSwitch تساؤلات مهمة حول مدى فهم نماذج الذكاء الاصطناعي للشفرات البرمجية. بالنسبة للمطورين، يمكن أن تكون هذه اللغة أداة مثيرة للاهتمام لاستكشاف حدود تفاعل الذكاء الاصطناعي مع الكود، وربما إيجاد طرق جديدة لحماية الملكية الفكرية أو إضفاء نوع من التعتيم المتعمد على الشفرات. كما أنها تسلط الضوء على ضرورة تطوير نماذج AI أكثر ذكاءً وقدرة على التمييز السياقي والمنطقي.
المصدر: theregister.com