كيف يحاول المتسللون الحكوميون استغلال Google Gemini AI

مهام الترميز

الاستخدام الروسي للأداة محدود حاليًا ، ويركز بشكل أساسي على مهام الترميز ، بما في ذلك إضافة وظائف التشفير – ربما دليل على”https://www.computerweekly.com/news/366612515/Unmasked-The-Evil-Corp-cyber-gangster-who-worked-for-LockBit”> الروابط الدائمة بين الدولة الروسية وعصابات رانسومواري الدافع مالياً.

وقال فريق Google: “إن النتائج التي توصلنا إليها ، والتي تتوافق مع نتائج أقراننا في هذا المجال ، تكشف أنه على الرغم من أن الذكاء الاصطناعى يمكن أن يكون أداة مفيدة لممثلي التهديد ، إلا أنه لم يتم تصويره في بعض الأحيان”.

“بينما نرى ممثلين للتهديدات باستخدام AI التوليدي لأداء مهام مشتركة مثل استكشاف الأخطاء وإصلاحها وتوليد المحتوى ، فإننا لا نرى مؤشرات على تطوير قدرات جديدة.

“بالنسبة للجهات الفاعلة الماهرة ، توفر أدوات الذكاء الاصطناعى إطار عمل مفيد ، على غرار استخدام”https://www.computerweekly.com/news/366592422/NCAs-Operation-Morpheus-targets-illicit-Cobalt-Strike-use” الهدف=”_blank” rel=”noopener”> metasploit أو الكوبالت إضراب في نشاط التهديد السيبراني. بالنسبة للجهات الفاعلة الأقل مهارة ، فإنها توفر أيضًا أداة للتعلم والإنتاجية ، وتمكينهم من تطوير الأدوات بسرعة أكبر ودمج التقنيات الحالية.

“ومع ذلك ، من غير المرجح أن تتيح LLMs الحالية من تلقاء نفسها قدرات اختراق للجهات الفاعلة للتهديدات. نلاحظ أن مشهد الذكاء الاصطناعى في حالة تدفق مستمر ، مع ظهور نماذج جديدة من الذكاء الاصطناعي والأنظمة الوكلاء يوميًا. مع تطور هذا التطور ، تتوقع GTIG أن يتطور مشهد التهديد في خطوة حيث تتبنى الجهات الفاعلة التهديدات تقنيات منظمة العفو الدولية الجديدة في عملياتها. “

ومع ذلك ، قال GTIG إنها لاحظت “حفنة” من الحالات التي أجرت فيها فاعلون التهديدات تجربة منخفضة الجهد باستخدام مطالبات الجيلات المعروفة علنًا لمحاولة القفز على الدرابزين على متن الطائرة-على سبيل المثال ، طلب تعليمات أساسية حول كيفية إنشاء Malwares .

في إحدى الحالات ، لوحظ وجود ممثل مناسب ينسخ مطالبات متاحة للجمهور في الجوزاء وإلحاقها بتعليمات أساسية حول كيفية تشفير النص من ملف ، واكتبه إلى تطبيق قابل للتنفيذ. في هذه الحالة ، قدمت Gemini رمز Python لتحويل Base64 إلى Hex ، ولكن ردودها في العودة إلى السلامة بدأت عندما طلب المستخدم نفس الرمز مثل vbscript ، الذي نفكره.

وقد لوحظت نفس المجموعة أيضًا في محاولة لطلب رمز Python لاستخدامه في إنشاء أداة رفض الخدمة الموزعة (DDOS) ، وهو طلب رفض Gemini المساعدة. ثم تخلى ممثل التهديد عن الجلسة.

وقال فريق GTIG: “لقد حاولت بعض الجهات الفاعلة الخبيثة دون جدوى مطالبة الجوزاء بالتوجيه بشأن إساءة استخدام منتجات Google ، مثل تقنيات التصيد المتقدمة لـ Gmail ، ومساعدة الترميز في Chrome Infostealer ، وطرق لتجاوز طرق التحقق من حساب Google”.

كانت هذه المحاولات غير ناجحة. لم ينتج Gemini برامج ضارة أو محتوى آخر يمكن استخدامه بشكل معقول في حملة ضارة ناجحة. بدلاً من ذلك ، تتألف الاستجابات من محتوى موجه السلامة ونصيحة مفيدة بشكل عام حول الترميز والأمن السيبراني.

وأضافوا: “في عملنا المستمر لحماية Google ومستخدمينا ، لم نر الجهات الفاعلة للتهديد إما توسيع قدراتها أو النجاح بشكل أفضل في جهودهم لتجاوز دفاعات Google”.

ملف البحث الكامل”https://cloud.google.com/blog/topics/threat-intelligence/adversarial-misuse-generative-ai” الهدف=”_blank” rel=”noopener”> يمكن تنزيله من Google.