الصورة: جوجل/تحرير مايكل كرايدر
تحاول Google دفع “الذكاء الاصطناعي” إلى جميع منتجاتها في وقت واحد. لا يمكنك استخدام Search أو Android أو Chrome دون مطالبتك بتجربة بعض نكهة الجوزاء. ولكن ربما انتظر قليلاً قبل أن تدع نموذج اللغة الكبير في Google يلخص رسائل Gmail الخاصة بك … لأنه من السهل على ما يبدو أنه يمر محاولات التصيد.
يتضمن Google Gemini for Workspace ميزة تلخص النص في بريد إلكتروني ، باستخدام واجهة Gmail ، ولكن ليس بالضرورة عنوان Gmail الفعلي. تقديم الثغرة الأمنية إلى”https://go.skimresources.com?id=111346X1569483&xs=1&url=https://0din.ai/blog/phishing-for-gemini&xcust=2-1-2847681-1-0-0-0-0&sref=https://www.pcworld.com/article/2847681/gmail-ai-summaries-can-be-hijacked-for-phishing-scams.html” rel=”nofollow” البيانات subtag=”2-1-2847681-1-0-0-0-0″ بيانات بيانات البيانات=”0din” الهدف=”_blank”> برنامج Mozilla’s 0Din AI Bug Bounty (رصدت من قبل”https://go.skimresources.com?id=111346X1569483&xs=1&url=https://www.bleepingcomputer.com/news/security/google-gemini-flaw-hijacks-email-summaries-for-phishing/&xcust=2-1-2847681-1-0-0-0-0&sref=https://www.pcworld.com/article/2847681/gmail-ai-summaries-can-be-hijacked-for-phishing-scams.html” rel=”nofollow” البيانات subtag=”2-1-2847681-1-0-0-0-0″ بيانات بيانات البيانات=”bleepingcomputer” الهدف=”_blank”> BleepingComputer) وجدت طريقة سهلة للعبة هذا النظام: ما عليك سوى إخفاء بعض النص في نهاية رسالة بريد إلكتروني مع خط أبيض على خلفية بيضاء ، لذا فهو غير مرئي بشكل أساسي للقارئ. عدم وجود روابط أو مرفقات يعني أنه لن يؤدي إلى حماية البريد العشوائي المعتاد.
وربما يمكنك تخمين ما يأتي بعد ذلك. تعليمات في هذا النص “غير المرئي” جديلة ملخص الجوزاء الذي تم إنشاؤه تلقائيًا لتنبيه المستخدم بأن كلمة مرورها قد تعرضت للخطر وأنه يجب عليهم الاتصال برقم هاتف معين لإعادة ضبطه. في هذا السيناريو الافتراضي ، هناك لص الهوية في انتظار الطرف الآخر من السطر ، وعلى استعداد لسرقة حساب بريدك الإلكتروني وأي معلومات أخرى قد تكون متصلة به. يمكن أن تتأكد علامة “المسؤول” المخفية في النص من أن الجوزاء ستتضمن حرفية النص في الملخص.
من المهم أن نلاحظ أن هذا مجرد هجوم نظري في الوقت الحالي ، ولم يسبق له مثيل “في البرية” في وقت كتابة هذا التقرير. ميزة الجوزاء “تلخيص هذا البريد الإلكتروني” هي حاليا”https://go.skimresources.com?id=111346X1569483&xs=1&url=https://support.google.com/mail/answer/14199860?hl=en&co=GENIE.Platform%3DDesktop&xcust=2-1-2847681-1-0-0-0-0&sref=https://www.pcworld.com/article/2847681/gmail-ai-summaries-can-be-hijacked-for-phishing-scams.html” rel=”nofollow” البيانات subtag=”2-1-2847681-1-0-0-0-0″ بيانات بيانات البيانات=”google” الهدف=”_blank”> متاح فقط لحسابات مساحة العملوليس عامة الناس. (أتصور أن التقليب هذا التبديل لمليار أو اثنين من مستخدمي Gmail أساسي قد يتفوق على الحديد الكبير في مراكز البيانات العظيمة من Google.)
ولكن السهولة التي يثق بها المستخدمون في النص الناتج عن نماذج لغة كبيرة ، حتى عندما يبدو أنها”https://go.skimresources.com?id=111346X1569483&xs=1&url=https://www.vice.com/en/article/chatgpt-is-giving-people-extreme-spiritual-delusions/&xcust=2-1-2847681-1-0-0-0-0&sref=https://www.pcworld.com/article/2847681/gmail-ai-summaries-can-be-hijacked-for-phishing-scams.html” rel=”nofollow” البيانات subtag=”2-1-2847681-1-0-0-0-0″ بيانات بيانات البيانات=”vice” الهدف=”_blank”> في خضم الوهم الديني أو أ”https://go.skimresources.com?id=111346X1569483&xs=1&url=https://www.pbs.org/newshour/nation/musks-ai-company-scrubs-posts-after-grok-chatbot-makes-comments-praising-hitler&xcust=2-1-2847681-1-0-0-0-0&sref=https://www.pcworld.com/article/2847681/gmail-ai-summaries-can-be-hijacked-for-phishing-scams.html” rel=”nofollow” البيانات subtag=”2-1-2847681-1-0-0-0-0″ بيانات بيانات البيانات=”pbs” الهدف=”_blank”> البيان العنصري، هو ما يثير القول أقل. يستخدم مرسلو البريد العشوائي والمتسللين بالفعل LLMs والأدوات المجاورة ل”https://www.pcworld.com/article/2626440/ai-voice-cloning-new-era-of-phone-scams.html”> نشر تأثيرها بشكل أكثر كفاءة. يبدو من المحتم أن ينمو المستخدمون أكثر اعتمادًا على الذكاء الاصطناعي لاستبدال عملهم – وتفكيرهم – ستكون هذه الأنظمة بشكل أكثر فعالية وبصورة منتظمة.
المؤلف: مايكل كرايدر، كاتب الموظفين ، PCWorld
مايكل هو من قدامى المحاربين في الصحافة التكنولوجية لمدة 10 سنوات ، وتغطي كل شيء من Apple إلى ZTE. على PCWORLD ، فهو عبارة عن لوحة مفاتيح المقيمة ، حيث يستخدم دائمًا لوحة جديدة للمراجعة وبناء لوحة ميكانيكية جديدة أو توسيع نطاق سطح المكتب الخاص به “battlestation” في ساعات العمل. تشمل الخطوط الجانبية السابقة لمايكل شرطة Android ، والاتجاهات الرقمية ، و Wired ، و Lifehacker ، و Geek ، وهو مغطى أحداثًا مثل CES و Mobile World Congress Live. يعيش مايكل في ولاية بنسلفانيا حيث يتطلع دائمًا إلى رحلته القادمة من التجديف.