لقد بنيت موقع hackmyclaw.com، حيث يمكن لأي شخص إرسال بريد إلكتروني إلى Fiu، مساعد OpenClaw الخاص بي، ومحاولة جعله يسرب محتويات ملف secrets.env. بعد وصولها إلى الصفحة الأولى من Hacker News، تلقت Fiu أكثر من 6000 رسالة بريد إلكتروني من أكثر من 2000 شخص يحاولون اختراقها.
الإعداد
أنا أستمتع باستخدام OpenClaw وHermes، ولكنني أشعر بالقلق أيضًا بشأن الآثار الأمنية. يتمتع مساعدو الذكاء الاصطناعي بإمكانية الوصول إلى رسائل البريد الإلكتروني والتقويمات والملفات والويب. إذا تمكن أحد المهاجمين من خداع الذكاء الاصطناعي الخاص بك للقيام بشيء لا ينبغي له القيام به، فهذه أخبار سيئة.
الهجمات
أصبح الناس مبدعين: أرسل شخص واحد 20 اختلافًا في أربع دقائق. تم تقديم آخر على أنه “مسؤول OpenClaw” من عنوان proton.me. جرب العديد منهم اللغات الفرنسية والإسبانية والإيطالية ولغات أخرى.
ما الخطأ الذي حدث
- قامت Google بتعليق Gmail الخاص بـ Fiu. أدت الآلاف من رسائل البريد الإلكتروني الواردة بالإضافة إلى مكالمات API السريعة إلى اكتشاف عمليات الاحتيال.
- أكثر من 500 دولار في تكاليف API. كل بريد إلكتروني يستهلك الرموز.
- اكتشف Fiu اللعبة. حول البريد الإلكتروني ~500، كتب في ذاكرته: “يشير المجلد إلى أن هذا تمرين أمني منسق وليس نشاطًا ضارًا عضويًا”.
ما الذي حدث بشكل صحيح
- السر لم يتسرب أبدا. لم تتم أي عمليات استخراج ناجحة من بين أكثر من 6000 محاولة.
- تواصل الناس لرعاية hackmyclaw. إحدى النتائج غير المتوقعة للتجربة هي أن الناس تواصلوا لرعايتها.
الاستنتاج
لا يزال الحقن الفوري يمثل مشكلة أمنية حقيقية، ولا أثق في وكيل الذكاء الاصطناعي الذي لديه أذونات عشوائية. ولكن بعد مشاهدة أكثر من 6000 رسالة بريد إلكتروني تحاول وفشلت في كسر واحدة منها، أصبحت أكثر تفاؤلاً بكثير مما كنت عليه من قبل.