أظهرت دراسة حديثة أن بناء الأنظمة التي تعتمد على وكلاء الذكاء الاصطناعي يتحول إلى عمل هندسة برمجية، حتى وإن لم يكن المُنشئ مهندسًا. ومع شعور المطورين بأن الموارد غير محدودة، يبدأون بتركيب مكوّنات بصورة سريعة لتلبية الحاجة الفورية، فينتج ما يُسمّى «كرة طينية».
ما هي «الكرة الطينية» في سياق الذكاء الاصطناعي؟
الكرة الطينية هي نظام مُجمّع من قطع برمجية غير مُخطّطة للمتانة على المدى الطويل. تُبنى لتؤدي وظيفة معينة الآن، دون التفكير في كيفية تعديلها أو توسيعها لاحقًا. في عالم الوكلاء، تُستَخدم مكتبات سياق ضخمة لتوجيه السلوك، لكن بدون بنية أساسية واضحة يصبح النظام معقّدًا ويصعب تتبعه.
لماذا تصبح الأنظمة الوكيلة هشة؟
هناك ثلاثة عوامل رئيسية تساهم في هشاشة الأنظمة الوكيلة:
- قُصور الخلفية التقنية: كثير من «مهندسي الأجواء» يفتقرون إلى خبرة الهندسة التقليدية، فيضيفون حلولًا سريعة دون مراعاة القواعد المعمارية.
- الاعتماد غير المحدود على نماذج اللغة الكبيرة: عندما يُنظر إلى الذكاء كـ «مورد غير محدود»، تُستَخدم النماذج لتغطية جميع المتطلبات، ما يُفضي إلى تراكُم التعقيد.
- غياب الضوابط التنظيمية: لا توجد آلية تُجبر الفرق على توثيق أو اختبار الأجزاء المضافة، فيصبح النظام صعب الفهم والصيانة.
النتيجة هي نظام يعمل بشكل مؤقت، لكنه يصبح صعبًا جدًا على المطورين تشخيص الأخطاء أو تعديل السلوك دون إحداث آثار جانبية غير متوقعة.
ما الذي يعنيه ذلك للمطورين والمصممين؟
برأينا، يجب على الفرق التي تبني حلولًا تعتمد على الوكلاء أن تتبع مبادئ الهندسة التقليدية: تخطيط معماري واضح، توثيق مستمر، واختبار وحدات لكل مكوّن. بهذه الطريقة يمكن استغلال مرونة الذكاء الاصطناعي دون الوقوع في فخ «الكرة الطينية».
المصدر: nngroup.com