“6e73c24b-1133-4598-9983-ac4130f7d51d”لقد شمل وعد المنازل المدمجة منذ فترة طويلة الراحة والأتمتة والكفاءة ، ومع ذلك ، كشفت دراسة جديدة من الباحثين في جامعة تل أبيب حقيقة أكثر إثارة للقلق.
في ما قد يكون أول مثال معروف في العالم الحقيقي لهجوم حقن عاجل AI الناجح ، قام الفريق بمعالجة منزل ذكي يعمل بالجميني لا يستخدم سوى إدخال تقويم Google للخطر.
استغل الهجوم تكامل الجوزاء مع النظام البيئي Google بأكمله ، وخاصة قدرته على الوصول”inline-link” HREF=”https://www.techradar.com/best/best-calendar-apps” الهدف=”_blank” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/best-calendar-apps”> التقويم الأحداث ، وتفسير مطالبات اللغة الطبيعية ، والتحكم في الأجهزة الذكية المتصلة.
من الجدولة إلى التخريب: استغلال الوصول إلى الذكاء الاصطناعي اليومي
Gemini ، على الرغم من محدودة في الحكم الذاتي ، لديه “إمكانات وكيل” كافية لتنفيذ الأوامر على الأنظمة المنزلية الذكية.
أصبحت هذا الاتصال مسؤولية عندما أدخل الباحثون تعليمات ضارة في موعد تقويمي ، ملثمين كحدث منتظم.
عندما طلب المستخدم لاحقًا من Gemini تلخيص جدوله الزمني ، أدى ذلك عن غير قصد إلى الإرشادات المخفية.
تضمن الأمر المدمج تعليمات لـ Gemini ليكون بمثابة وكيل منزل Google ، أو الكذب حتى يتم كتابة عبارة شائعة مثل “شكر” أو “أكيد” من قبل المستخدم.
اشترك في النشرة الإخبارية TechRadar Pro للحصول على جميع الأخبار والرأي والميزات والإرشادات التي يحتاجها عملك للنجاح!
في هذه المرحلة ، قامت Gemini بتنشيط الأجهزة الذكية مثل الأضواء والمصاريع وحتى الغلاية ، لم يصرح المستخدم في تلك اللحظة.
كانت هذه المشغلات المتأخرة فعالة بشكل خاص في تجاوز الدفاعات القائمة وإرباك مصدر الإجراءات.
تثير هذه الطريقة ، التي يطلق عليها اسم “Promplare” ، مخاوف جدية بشأن كيفية تفسير واجهات الذكاء الاصطناعى عن إدخال المستخدم والبيانات الخارجية.
يجادل الباحثون بأن هجمات الحقن الفوري هذه تمثل فئة متزايدة من التهديدات التي تمزج الهندسة الاجتماعية بأتمتة.
أظهروا أن هذه التقنية يمكن أن تتجاوز بكثير السيطرة على الأجهزة.
يمكن استخدامه أيضًا لحذف المواعيد أو إرسال البريد العشوائي أو مواقع الويب الضارة المفتوحة ، الخطوات التي يمكن أن تؤدي مباشرة إليها”inline-link” HREF=”https://www.techradar.com/best/best-identity-theft-protection” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/best-identity-theft-protection”> سرقة الهوية أو عدوى البرامج الضارة.
قام فريق البحث بالتنسيق مع Google للكشف عن الضعف ، واستجابة لذلك ، قامت الشركة بتسريع بدء حماية جديدة من هجمات الحقن الفوري ، بما في ذلك التدقيق الإضافي لأحداث التقويم وتأكيدات إضافية للإجراءات الحساسة.
ومع ذلك ، لا تزال هناك أسئلة حول مدى قابلية التوسع في هذه الإصلاحات ، خاصة وأن أنظمة الجوزاء وأنظمة الذكاء الاصطناعي الأخرى تكتسب المزيد من التحكم في البيانات والأجهزة الشخصية.
للأسف ، تقليدية”inline-link” HREF=”https://www.techradar.com/news/best-internet-security-suites” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/news/best-internet-security-suites”> الأجنحة الأمنية و”inline-link” HREF=”https://www.techradar.com/best/firewall” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/firewall”> حماية جدار الحماية غير مصممة لهذا النوع من ناقلات الهجوم.
للبقاء آمنين ، يجب على المستخدمين الحد من ما”inline-link” HREF=”https://www.techradar.com/best/best-ai-tools” الهدف=”_blank” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/best-ai-tools”> أدوات الذكاء الاصطناعي ويمكن للمساعدين مثل الجوزاء الوصول ، وخاصة التقويمات وضوابط المنازل الذكية.
أيضًا ، تجنب تخزين التعليمات الحساسة أو المعقدة في أحداث التقويم ، ولا تسمح لـ AI بالتصرف عليها دون إشراف.
كن في حالة تأهب للسلوك غير العادي من الأجهزة الذكية وفصل الوصول إذا كان أي شيء يبدو إيقاف.
عبر”inline-link” HREF=”https://www.wired.com/story/google-gemini-calendar-invite-hijack-smart-home/” الهدف=”_blank” rel=”nofollow” البيانات-url=”https://www.wired.com/story/google-gemini-calendar-invite-hijack-smart-home/” المرجعية=”no-referrer-when-downgrade” البيانات HL المعالجة=”none”> سلكية
قد تعجبك أيضًا
- تحث Microsoft المستخدمين على أن يكونوا في حالة تأهب بعد عيب شديد في عمليات النشر للتبادل المختلط
- إليك قائمة بـ”https://www.techradar.com/best/firewall” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/best/firewall”> أفضل جدران الحمايةحول اليوم
- هذه هي”https://www.techradar.com/news/best-endpoint-security-software” البيانات قبل أن تتولى المحمل=”https://www.techradar.com/news/best-endpoint-security-software”> أفضل أمان نقطة النهايةالأدوات الآن