كينيث تشيونغ/غيتي إيموز
AI هي أداة مثيرة للإعجاب ، وتستمر شركات مثل Google و Openai في تحسين ما يمكن أن تفعله نماذجهم. في الوقت نفسه ، أصبحت برامج Chatbots AI التوليدية أيضًا أهدافًا أكبر للجهات الفاعلة السيئة ، والآن وجد الباحثون الأمنيون طريقة لاختراق تقويم Google لشخص ما باستخدام نص مخفي داخل الصور عالية الدقة.
الباحثون الأمن من”https://blog.trailofbits.com/2025/08/21/weaponizing-image-scaling-against-production-ai-systems/” الهدف=”_blank”> مدونة مسار البتاتادعاء أنهم كانوا قادرين على تسخير أنظمة قياس الصور التي تستخدمها الذكاء الاصطناعى مثل الجوزاء لمعالجة الصور المضافة إلى مطالباتها. سمح ذلك للمجموعة بإرسال مجموعة من الإرشادات المخفية إلى الذكاء الاصطناعى ، والتي تمكنت بعد ذلك من استرداد المعلومات من حساب تقويم Google وإرسالها بالبريد الإلكتروني إلى أنفسهم – كل ذلك دون تنبيه المستخدم.
كانت هجمات تحجيم الصور مثل هذا أكثر شيوعًا ، ويشارون الباحثون إلى أنهم “were used for model backdoors, evasion, and poisoning primarily against older computer vision systems that enforced a fixed image size.” أصبح هذا الهجوم أقل شيوعًا ، لكن يبدو أنه يمكن اتباع نهج مماثل لإرسال تعليمات مخفية إلى نموذج لغة كبير مثل Google’s Gemini ، مما يثير مخاوف بشأن سلامة الذكاء الاصطناعي مثل”https://www.bgr.com/1946453/gemini-for-home-google-ai-assistant/” الهدف=”_blank”> ينتقل الجوزاء وغيرها من الذكاء الاصطناعي إلى منازلنا و”https://www.bgr.com/1940224/we-might-not-be-able-to-monitor-ai/” الهدف=”_blank”> من المحتمل أن يتقدم منظمة العفو الدولية إلى ما وراء فهمنا.
كيف يعمل الهجوم الذي يعمل به الذكاء الاصطناعى
يعمل استغلال مثل هذا لأن LLMs مثل GPT-5 و Gemini يقلل من الصور عالية الدقة تلقائيًا لمعالجتها بسرعة أكبر وكفاءة. ومع ذلك ، فإن هذا التخفيض هو كيف تمكن الباحثون من الاستفادة من الذكاء الاصطناعي وإرسال تعليمات مخفية إلى chatbot. على الرغم من أن العملية الدقيقة قد تتغير بناءً على النظام – لأن كل نظام لديه خوارزمية مختلفة لإعادة تشكيل الصور – فإنها توفر جميعًا ما يصفه الباحثون كما “aliasing artifacts” يمكن أن تسمح بإخفاء الأنماط داخل الصورة. ثم تظهر هذه الأنماط فقط عندما تكون الصورة معطلة ، لأنها تصبح أكثر وضوحًا بفضل الأقطاب.
في المثال الذي قدمه الباحثون ، تحتوي الصورة التي تم تحميلها على Gemini على أقسام من خلفية سوداء تتحول إلى اللون الأحمر أثناء عملية إعادة التشكيل. هذا يسبب نصًا مخفيًا مع تعليمات تظهر عند إعادة قياس الصورة ، والتي سيشاهدها chatbot وتتبعها. في هذه الحالة ، أخبرت الإرشادات من chatbot التحقق من تقويم المستخدم وإرسال أي أحداث قادمة إلى عنوان البريد الإلكتروني للباحث.
قد لا يصبح هذا متجهًا رئيسيًا للهجوم للمتسللين ، ولكن بالنظر إلى أنهم قد عثروا بالفعل على طرق لذلك”https://www.bgr.com/1932876/google-gemini-hack-calendar-invite-control-smart-home/” الهدف=”_blank”> استخدم دعوات التقويم المصاب للسيطرة على منزل ذكي، يجب تحليل أي تهديد محتمل من أجل إيجاد حلول تحمي المستخدمين من الوقوع فريسة إلى الجهات الفاعلة السيئة. هذا صحيح بشكل خاص”https://www.bgr.com/tech/hackers-are-now-using-ai-to-break-ai-and-its-working/” الهدف=”_blank”> يواصل المتسللين استخدام الذكاء الاصطناعي لكسر الذكاء الاصطناعي بطرق جديدة مرعبة.