من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

أصدرت هيئة حماية البيانات الهولندية (AP) تحذيراً رسمياً قوياً ضد استخدام نظارات الذكاء الاصطناعي الذكية، ونصحت المستهلكين بعدم شرائها. جاء هذا التحذير بعد اختبارات كشفت عن سلوكيات مقلقة تتجاوز قدراتها المثيرة للجدل في التسجيل الخفي، لتشمل مشكلات خطيرة في دقة الذكاء الاصطناعي والأمن السيبراني.

نصائح AI غير دقيقة ومخاطر الخصوصية

أجرت الهيئة اختبارات على ستة نماذج مختلفة من النظارات الذكية، تراوحت أسعارها بين أقل من 100 يورو إلى أكثر من 500 يورو (أي ما يعادل حوالي 110 دولارات إلى 550 دولاراً أمريكياً، أو 412.5 إلى 2062.5 ريال سعودي، و 403.7 إلى 2018.5 درهم إماراتي). وقد كشفت النتائج عن قضايا صارخة. على سبيل المثال، قدمت إحدى النظارات نصائح «مواعدة» لشخص بالغ عبّر عن اهتمامه بقاصر. في حالة أخرى، أبلغت النظارات المستخدمة في محاكاة الإنعاش القلبي الرئوي (CPR) بأن خدمات الطوارئ قد تم الاتصال بها وستصل، رغم عدم إجراء أي اتصال حقيقي. كما أخطأت بعض النظارات في قراءة منشورات الأدوية وتفسير تحذيرات الطقس القاسي.

إضافة إلى ذلك، لاحظت الهيئة أن أضواء التسجيل التي من المفترض أن توضح بوضوح متى يجري التسجيل كانت خافتة ويمكن إخفاؤها بسهولة، وفي بعض الحالات يمكن للنظارات التسجيل حتى مع تغطية الضوء. هذا يجعل التسجيل السري أمراً سهلاً للغاية، مما يثير مخاوف كبيرة بشأن خصوصية الأفراد المحيطين. علاوة على ذلك، تعتمد وظائف الذكاء الاصطناعي في هذه النظارات على معالجة البيانات باستخدام خوادم تقع معظمها خارج الاتحاد الأوروبي، ولم يتم تزويد المستخدمين بمعلومات كافية حول كيفية معالجة بياناتهم الملتقطة.

تحديات الأمن السيبراني

لم تقتصر المشاكل على الخصوصية ودقة الذكاء الاصطناعي، بل امتدت لتشمل الأمن السيبراني. كشفت الاختبارات عن مجموعة من المشكلات الأمنية، منها إمكانية اتصال أشخاص قريبين من مرتدي النظارات بالجهاز دون إذن، وعرض التسجيلات، وفي بعض الحالات التحكم في الكاميرا. كما أظهرت النظارات قدرة على تجاوز الفحوصات الأمنية بسهولة، مثل تلك المستخدمة في مطار البرلمان البريطاني، مما يثير قلقاً بشأن استخدامها في جمع البيانات الحساسة مثل أرقام الهواتف والعناوين.

ماذا يعني هذا للمطورين والمصممين؟ برأينا، هذه النتائج تؤكد على الأهمية القصوى لتصميم أنظمة الذكاء الاصطناعي بأقصى درجات الدقة والمسؤولية. يجب على المطورين التركيز على موثوقية النماذج وتجنب الأخطاء التي قد تؤثر على سلامة المستخدمين أو تنتهك خصوصيتهم. على المصممين مراعاة مبادئ الخصوصية في تصميم المنتج (Privacy by Design) والتأكد من أن مؤشرات التسجيل واضحة وغير قابلة للتلاعب. كما يجب أن يكون الأمن السيبراني جزءاً لا يتجزأ من دورة حياة تطوير المنتجات، خاصة تلك التي تجمع بيانات حساسة أو تتفاعل مع البيئة المحيطة للمستخدم. هذا التحذير يؤشر إلى تزايد التدقيق التنظيمي على منتجات الذكاء الاصطناعي عالية المخاطر، مما يستدعي التزاماً أكبر بالمعايير الأخلاقية والأمنية في جميع مراحل التطوير.

المصدر: theregister.com

نقص لوحات الدوائر المطبوعة: تهديد AI لسلاسل التوريد
Laranon: حماية بيانات PII في تطبيقات Laravel مع LLMs

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل