لقد غير الذكاء الاصطناعي التوليدي (GenAI) مشهد أمن البريد الإلكتروني بشكل جذري، محولاً هجمات التصيد الاحتيالي التقليدية إلى أداة دقيقة وقوية بشكل مقلق. ما كان في السابق يمكن اكتشافه بسهولة، أصبح الآن يمثل تحديًا كبيرًا للمدافعين، حيث يستغل المجرمون قدرات الذكاء الاصطناعي لإنشاء رسائل تصيد متطورة للغاية.
كيف يغير الذكاء الاصطناعي التوليدي قواعد اللعبة؟
تاريخياً، كانت محاولات التصيد الاحتيالي غالباً ما تفضحها أخطاء واضحة في القواعد اللغوية والتنسيق السيئ، مما جعل من السهل على أنظمة الأمن التقليدية اكتشافها. لكن مع ظهور الذكاء الاصطناعي التوليدي، زالت هذه القيود. يمكن للمهاجمين الآن أتمتة عملية إنشاء رسائل تصيد متقنة، تتميز بنصوص مصقولة وسياقية بأي لغة، مدعومة برسومات علامات تجارية واقعية وعناوين ويب مقنعة.
لم يعد المهاجمون بحاجة للاختيار بين هجمات «التصيد بالرمح» المستهدفة فردياً التي تتطلب جهداً كبيراً، والهجمات واسعة النطاق التي تفتقر إلى الدقة. بجهد قليل وتكلفة منخفضة، يمكنهم الآن استهداف آلاف الضحايا برسائل تصيد مصممة بدقة بضغطة زر. يشير ديف باجيت، نائب الرئيس الأول للأمن السيبراني في مطور البرامج Kaseya، إلى أن «الذكاء الاصطناعي قضى على الإشارات التاريخية التي كانت تكشف رسائل التصيد – كقواعد اللغة الضعيفة والأخطاء الإملائية – واستبدلها بلغة مثالية». وقد ارتفعت الخسائر الناجمة عن هجمات التصيد الاحتيالي بنسبة 274 بالمائة في العامين الماضيين، وفقاً لمكتب التحقيقات الفيدرالي (FBI).
لا يقتصر الأمر على التقنيات؛ فالذكاء الاصطناعي التوليدي يعزز أيضاً الهندسة الاجتماعية. يمكن للمهاجمين استخدام الذكاء الاصطناعي لتمشيط LinkedIn للعثور على الأشخاص الذين بدأوا وظائف جديدة، ومن ثم انتحال شخصية مدير أو زميل جديد لم يقم الموظف بمعرفته بعد. غالباً ما يؤدي هذا إلى طلبات عاجلة لتحويل الأموال أو تفاصيل كشوف المرتبات أو كلمات المرور، مما يجعل الأنظمة الأمنية التقليدية غير قادرة على اكتشاف أي شيء مريب.
الدفاعات الذكية في مواجهة التهديد
لكن التطور لا يقتصر على الجانب المظلم. فمع إتقان المهاجمين لاستخدام الذكاء الاصطناعي التوليدي، يطور المدافعون أيضاً حلولاً مضادة مدفوعة بالذكاء الاصطناعي. بينما كانت الحماية القديمة تعتمد على اكتشاف الأخطاء التي أزالتها GenAI الآن، تركز الحلول الأحدث على التحليل السياقي. فهي لا تسعى فقط لاكتشاف الأخطاء المطبعية أو المرفقات المشبوهة، بل إلى نمذجة نية المهاجم قبل وقوع الضرر.
هذا المستوى من الدقة ضروري بسبب الطبيعة الخبيثة للتصيد الحديث، حيث يمكن لرسائل البريد الإلكتروني «النظيفة تقنياً» – أي تلك الخالية من المرفقات الضارة أو الروابط الملغمة – أن تحمل إمكانات خبيثة. يقول باجيت: «بما أن المهاجمين يعتمدون على التلاعب بالأفراد المعرضين للخطأ، يجب أن يدعمهم الأمن الآن في اللحظة التي يمكن فيها اتخاذ قرارات خاطئة». ويضيف أن «أمن البريد الإلكتروني الجيد سيحل محل التحذيرات العامة بسياق سهل الفهم حول سبب خطورة الرسالة ونصيحة حول الحاجة إلى مزيد من التحقق».
التحديات الحالية والمستقبلية
يواجه المدافعون تحدياً كبيراً يتمثل في «عدم التماثل الهائل» بين المهاجم والمدافع. يوضح باجيت: «يمكن للمهاجمين استخدام نماذج LLM، مجاناً تقريباً، لإنشاء قوالب تصيد مثالية. من ناحية أخرى، إذا قام المدافعون بمعالجة كل بريد إلكتروني وارد عبر نموذج LLM متقدم، فسيكون ذلك مكلفاً 100 مرة أكثر. لا يمكننا ببساطة استخدام نفس الأدوات التي يستخدمها المجرمون».
لمواجهة ذلك، يمكن للمدافعين استخدام نماذج أصغر وأكثر تخصصاً، مستخلصة من النماذج الكبيرة. كما يمكنهم تشغيل مجموعة فرعية من البريد الوارد الكلي من خلال نموذج كبير. يمكن أيضاً الاستفادة من أدوات ما قبل LLM مثل الرؤية الحاسوبية، وتحليل المرسل، وفحص المحتوى المرتبط. نرى أيضاً أن التكنولوجيا في تطور مستمر، ومع تحسن النماذج، قد يصبح من الممكن معالجة نسبة أعلى من رسائل البريد الإلكتروني عبر نماذج LLM واسعة النطاق في المستقبل.
لا يقتصر الأمر على اكتشاف الرسائل الضارة؛ فمن الممكن أيضاً استخدام نماذج LLM لتحليل إعدادات وأدوات التحكم في أدوات الأمن الحالية، مما يقلل من الخبرة المطلوبة لاستخدامها بفعالية. ومع ذلك، هناك خطر أيضاً من أن يجد المجرمون طرقاً جديدة لتسخير الأدوات الأفضل لأغراض جديدة. في نهاية المطاف، قد تتولى النماذج الوكيلية (agentic models) مهمة تخطيط الهجمات والإشراف عليها على نطاق واسع.
أدوات متاحة الآن للمطورين والمصممين
لحسن الحظ، تتوفر اليوم أدوات رائعة لمساعدة المدافعين على تقليل تعقيدات فحص البريد الإلكتروني. على سبيل المثال، يستخدم INKY Smart Insights الذكاء الاصطناعي التوليدي لتقليل عملية التحقيق اليدوية المطولة في البريد الإلكتروني إلى ثوانٍ قليلة من الفرز الآلي. يمكن لهذه الأداة تحويل كم كبير من الأدلة الفنية إلى نتيجة واضحة بلغة مفهومة، مما يتيح إنشاء تقارير مقنعة. كما يدعم Kaseya Intelligence اتخاذ القرار عبر بيئة الأمان الأوسع.
بالنسبة للمطورين والمصممين في العالم العربي، يعني هذا أن الوعي المتزايد بتطور هجمات التصيد الاحتيالي أمر بالغ الأهمية. يجب على المطورين التركيز على دمج أفضل الممارسات الأمنية في تطبيقاتهم، خاصة فيما يتعلق بمصادقة المستخدم وحماية البيانات. يجب أن يأخذ المصممون في الاعتبار كيف يمكن أن تستغل الهندسة الاجتماعية أنماط واجهة المستخدم، وتصميم تجارب مستخدم واضحة وشفافة تساعد في تنبيه المستخدمين إلى المخاطر المحتملة. إن فهم هذه التحديات الجديدة وتكييف استراتيجيات الأمان والتصميم وفقاً لها سيظل أمراً حيوياً للحفاظ على الأمان في عصر الذكاء الاصطناعي.
المصدر: theregister.com