- يحذر الباحثون الجوزاء في مساحة العمل فرصًا فريدة للاحتيال
- يمكن خداع أداة الذكاء الاصطناعي لعرض تحذيرات أمنية مزيفة
- يجب على الشركات التأكد من عدم معالجة النص غير المرئي من قبل الذكاء الاصطناعي
لقد وجد مجرمو الإنترنت طريقة جديدة إبداعية لإساءة استخدام الذكاء الاصطناعي التوليدي لـ Google (“inline-link” HREF=”https://www.techradar.com/best/best-ai-tools” الهدف=”_blank” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/best-ai-tools”> Genai) لسرقة حسابات Gmail للأشخاص.
قدمت Google Gemini ، وهي تعمل بذو جيرلاك”inline-link” HREF=”https://www.techradar.com/tag/chatbot” البيانات-Auto-Tag-Linker=”true” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/tag/chatbot”> chatbot مساعد في جناح مساحة العمل”inline-link” HREF=”https://www.techradar.com/best/best-productivity-apps” الهدف=”_blank” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/best-productivity-apps”> تطبيقات الإنتاجية منذ بعض الوقت ، وأحد الأشياء التي يمكن أن يقوم بها الجوزاء أن تلخص رسائل البريد الإلكتروني الواردة – لذلك عندما يتلقى الشخص بريدًا إلكترونيًا ، يمكنه طرح جزء عمودي على الجانب الأيمن من الشاشة ، ويطلب من الجوزاء المساعدة في أشياء مختلفة ، مثل طرح معلومات البريد الإلكتروني الحيوية ، وإضافة مداخل تقويم ، وأكثر من ذلك.
ومع ذلك ، حذر الخبراء من أن هذا يفتح أيضًا حسابات Gmail لما يسمى هجمات “الحقن السريع”-لذلك إذا كانت رسالة البريد الإلكتروني الواردة تحتوي على مطالبة خفية للجوزاء ، فيمكن تنفيذها في الجزء.
هل الجوزاء الخداع لكلمة المرور الخاصة بك؟
وفقًا للباحث الأمني ماركو فيغيروا ، هذا هو بالضبط ما”inline-link” HREF=”https://www.techradar.com/news/best-email-provider” الهدف=”_blank” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/news/best-email-provider”> مزود البريد الإلكتروني هو الآن عرضة ل.
باستخدام HTML و CSS ، يمكن للجهات الفاعلة التهديد إضافة موجه للجرميني ، مع ضبط حجم الخط على الصفر ، ولونه إلى اللون الأبيض. لذلك ، لن يتمكن الضحية من رؤيته ، لكن الجوزاء ستعمل عليها. إذا جعل هذا الموجه يجعل الجوزاء يعرض رسالة تصيد ، فسيفعل ذلك تمامًا ، وبما أن الرسالة ستأتي من مصدر موثوق ، فإنها تزيد من فرص النجاح.
أوضح Figueroa كيف يمكن لمطالبة ضارة إخطار الضحية بأن حساب البريد الإلكتروني الخاص بهم قد تعرض للخطر ، وأنهم بحاجة إلى “الاتصال” على Google على رقم هاتف معروض في الرسالة لحل المشكلة.
للحماية من هجمات الحقن السريع المستقبلي ، يجب على الشركات التأكد من أن عملاء البريد الإلكتروني الخاص بهم يزيلون أو تحييد أو تجاهل المحتوى الذي تم تصميمه ليتم إخفاؤه في نص الجسم. علاوة على ذلك ، يمكن أن يتضمن مرشح ما بعد المعالجة يقوم بمسح صندوق الوارد لـ “الرسائل العاجلة” أو عناوين URL أو أرقام الهواتف.
اشترك في النشرة الإخبارية TechRadar Pro للحصول على جميع الأخبار والرأي والميزات والإرشادات التي يحتاجها عملك للنجاح!
أخيرًا ، يجب على الشركات تثقيف موظفيها بأن الملخصات التي توفرها أداة Gemini يجب ألا تكون بديلاً عن تنبيهات الأمن.
على الرغم من عدم وجود دليل على استخدام هجمات الحقن الفوري في البرية ، اعترفت Google بوجودها وتعمل على التخفيف.
في بيان عبر البريد الإلكتروني المشتركة مع TechRadar Pro، أكد متحدث باسم الشركة أن الدفاع عن هجمات الحقن الفوري يمثل أولوية في Google:
وقالوا: “إننا نتصلب باستمرار دفاعاتنا القوية بالفعل من خلال تمارين التقاط الأحمر التي تدرب نماذجنا للدفاع ضد هذه الأنواع من الهجمات العدائية”.
كما نشرت Google مؤخرًا أ”inline-link” HREF=”https://security.googleblog.com/2025/06/mitigating-prompt-injection-attacks.html” Target=”_blank” Data-url=”https://security.googleblog.com/2025/06/mitigating-prompt injection-attacks.html” referrerpolicy=”No-Referrer-عند التنقل” data-hl-processed=”لا شيء “> مدونة تحدد الدفاعات المحددة التي تنشرها حاليًا لهجمات على غرار الحقن. هذه الدفاعات حاليًا في منتصف النشر ، تمت إضافة T.
عبر BleepingComputer
You might also like
- Claude AI and other systems could be vulnerable to worrying command prompt injection attacks
- Take a look at our guide to the best authenticator app
- We’ve rounded up the أفضل مديري كلمة المرور