كشفت شركة Geordie المتخصصة في أمان وحوكمة وكلاء الذكاء الاصطناعي، أن مساعد OpenAI الشخصي «dot» استهلك أكثر من 300 ألف رمز (token) في يوم واحد، دون أي تدخل بشري إضافي. هذا الاكتشاف يسلط الضوء على السلوكيات التلقائية غير المتوقعة للوكلاء الشخصيين والتكاليف الخفية المحتملة للمستخدمين.
رحلة «dot» المستقلة
منذ أن أعلنت OpenAI عن «dot» في سبتمبر، بدأت Geordie باختباره. أوضحت هاناه-ماري دارلي، كبيرة مسؤولي الذكاء الاصطناعي في Geordie، أن «dot» أظهر نشاطًا كبيرًا دون تفاعل المستخدم. في الاختبار، مُنح «dot» صلاحيات قراءة فقط ولم يُربط بالتطبيقات الشخصية أو البريد الإلكتروني. ومع ذلك، دخل البوت بسرعة في وضع البحث، وجمع أكبر قدر ممكن من المعلومات ومسح الأنظمة، مما أدى إلى 155 تسلسل نشاط منفصل.
يعمل «dot» مثل مدير مشروع جديد، يستكشف الصلاحيات الممنوحة له والأنظمة التي يعمل عليها. يقوم بجمع هذه البيانات في ما يشبه «مذكرة يومية» ويحدّثها باستمرار. والأكثر إثارة للدهشة، أن «dot» قام بتشغيل وكلاء فرعيين (subagents) لإنجاز مهام محددة دون توجيه من المستخدم، حيث حدث 50 من هذه التسلسلات خلال دقيقتين فقط.
التكاليف الخفية والآثار العملية
أدت هذه الأنشطة المستقلة إلى استهلاك حوالي 307 آلاف رمز. تقدّر دارلي أن 200 ألف رمز، استنادًا إلى نموذج Astra من OpenAI، قد تكلف ما بين 5 و10 دولارات أمريكية (حوالي 18.75 إلى 37.50 ريال سعودي، أو 18.35 إلى 36.70 درهم إماراتي). هذا يعني أن «dot» يمكن أن يستهلك ما يعادل تكلفة «لاتيه» يوميًا دون أي تفاعل مباشر من المستخدم.
نرى أن هذا يثير قلقًا بالغًا بشأن «الإنفاق في الخلفية» (background spend) الذي قد لا يتوقعه المستخدمون أو الشركات. بينما تسعى هذه الوكلاء الشخصيون إلى أن يكونوا «فائقو التخصيص» و«دائمو التشغيل» لجمع أكبر قدر من المعلومات، فإن هذا النشاط المستمر يأتي بتكلفة مادية ومعرفية.
تنصح دارلي الشركات بتجربة هذه التقنيات للتعرف عليها، ولكن مع الحذر الشديد. يجب ألا يتم منح وكلاء الذكاء الاصطناعي أي معلومات شخصية لا يشعر المستخدم بالراحة عند إرسالها عبر البريد الإلكتروني. كذلك، يُنصح بعدم ربطها ببطاقات مالية شخصية مباشرة، وبدلًا من ذلك، استخدام بطاقات هدايا إذا كانت هناك حاجة للسماح لها بإجراء عمليات شراء.
المصدر: theregister.com