شهدت أمستردام مؤخرًا تجمعًا مهمًا للمطورين في مؤتمر AGNTCon + MCPCon Europe، بالإضافة إلى فعالية مجتمعية استضافتها JetBrains لمؤسسة Agentic AI Foundation. ركزت النقاشات على الواقع العملي لوكلاء الذكاء الاصطناعي، وكشفت عن تحديات بعيدة عن التوقعات المثالية.
حوكمة المصادر المفتوحة في عصر الوكلاء
من أبرز القضايا التي طرحت كانت حوكمة مشاريع المصادر المفتوحة، وتحديدًا من يملك حق اتخاذ القرار عندما تختلف أهداف الشركات والمشرفين والمساهمين. أشار نيك فينهوف من GitLab إلى أن «شخصًا ما يجب أن يدفع ثمن الطرق» في إشارة إلى البنية التحتية، لكنه أكد أن الثقة تُكتسب بالعمل المستمر والعلني، وليس بالمال. نرى أن هذا المبدأ يصبح أكثر أهمية مع تزايد الاعتماد على الأدوات الآلية.
تحديات وكلاء الذكاء الاصطناعي: أين يكمن الخلل؟
تحدث المشاركون عن تحدي «عنق الزجاجة» في المراجعة، حيث يواجه المشرفون كمًا هائلًا من المقترحات التي تُولّد بواسطة الذكاء الاصطناعي، والتي غالبًا ما تعيد النقاش في قرارات سابقة. هذا يحوّل جهودهم من البناء إلى تكرار التوضيح. كما ذكر ديكستر هورثي من HumanLayer أن الكود المنتج بواسطة وكلاء غير مراقبين يتدهور بمرور الوقت، مما يؤكد الحاجة المستمرة للمراجعة البشرية والتخطيط المسبق.
قدم نيك فينهوف مثالًا واقعيًا عن نظام بناه بنفسه يتألف من 13 وكيلًا متخصصًا ووكيل واحد للأوركسترا. كشف فينهوف عن إخفاقات عديدة، مثل اجتياز الاختبارات رغم وجود أعطال في البنية التحتية، وتوقف مهمة خلفية لمدة 46 يومًا دون أي تنبيه، والأخطر هو إنتاج وكيل لـ 80 نقطة بيانات مُختلقة بدت حقيقية تمامًا، واستغرق منه ساعتين لاكتشافها. استنتج فينهوف أن «الكمال الخاطئ أسوأ من النقص الصادق».
ماذا يعني هذا للمطورين؟
تُعد هذه التحديات دعوة واضحة للمطورين والمصممين للمشاركة الفاعلة في صياغة معايير وكيفيات عمل وكلاء الذكاء الاصطناعي. تُكتب الآن الاتفاقيات الخاصة بكيفية اتصال الوكلاء بالأدوات، وتتبع أعمالهم، وضمان أمانهم، في مجموعات عمل مفتوحة تحتاج إلى المزيد من المساهمين. يمكن لهذه المجموعات أن تستفيد من خبرة المطورين، ولا يتطلب الأمر دائمًا كتابة كود، بل قد يتعلق بصياغة نماذج التهديد والحوكمة.
نرى أن الانفتاح في هذه المعايير أمر حيوي، إذ لن تعتمد أنظمة التطوير القائمة على الوكلاء على نموذج واحد أو حزمة تقنية من بائع واحد. ستحتاج الفرق إلى مزج هذه التقنيات، ويجب أن تدعم الأنظمة المحيطة هذا التنوع دون فقدان القدرة على تتبع ما قام به الوكلاء أو من هو المسؤول عنه. هذا هو التفكير الذي يقف وراء مشاركة JetBrains في مؤسسة Agentic AI Foundation. نؤكد أن المشاركة المجتمعية والتعلم المستمر من خبراء المجال هي المفتاح لمواجهة هذه التحديات بنجاح.
المصدر: blog.jetbrains.com