اتخذ تطبيق Signal، المعروف بتركيزه على التشفير والخصوصية، خطوة مهمة لحماية بيانات المستخدمين، حيث قام بحظر وكلاء الذكاء الاصطناعي مثل Google Gemini و Apple Siri من الوصول إلى الرسائل ما لم يمنح المستخدم الإذن الصريح بذلك. تأتي هذه الخطوة استجابة للمخاوف المتزايدة بشأن الخصوصية وكيف يمكن لهذه الأنظمة الذكية الوصول إلى المعلومات الخاصة.
صرحت Meredith Whittaker، الرئيسة التنفيذية لتطبيق Signal، أن تدابير مشابهة لحظر لقطات الشاشة، التي تم تنفيذها العام الماضي للدفاع ضد Microsoft Recall، أصبحت ضرورية لمنع البرامج التي تعمل بوكلاء ذكاء اصطناعي والمتاحة في نظامي iOS و Android من الوصول إلى الاتصالات الخاصة. وأشارت إلى أن Google و Apple تدمجان قدرات الوكلاء مثل Gemini Intelligence و Onscreen Awareness مع Siri AI عميقًا في أنظمة التشغيل الخاصة بهما، مما يمكنها من «مسح» المعلومات الظاهرة على الشاشة والتقاط بيانات Signal الخاصة بك، ثم إتاحتها لهذه الأنظمة الوكيلية للإجابة عن الأسئلة.
آلية الحماية وتحدياتها
تتضمن التحديثات الجديدة لتطبيقات Signal على iOS و Android الآن عناصر تحكم تحظر افتراضيًا على Siri في iOS و Gemini والوكلاء الآخرين على Android من التقاط لقطات الشاشة. هذه اللقطات هي ما تستخدمه وكلاء الذكاء الاصطناعي لمعالجة النصوص واستخراجها باستخدام تقنية التعرف البصري على الأحرف (OCR). يمكن للمستخدمين تعطيل هذه الحماية عبر قائمة إعدادات Signal، لكن Whittaker تحذر من أن ذلك يعرض محتوى Signal الخاص بهم (وما يرسله جهات اتصالهم) لوكلاء الذكاء الاصطناعي.
تعترف Whittaker بأن حظر لقطات الشاشة ليس سوى حل جزئي، حيث قد يكون لوكلاء الذكاء الاصطناعي طرق أخرى للوصول إلى بيانات التطبيقات من خلال نظام ملفات الجهاز. وأضافت أن المشكلة خطيرة كون Signal، ومطوري التطبيقات بشكل عام، يفتقرون إلى أدوات قوية لمنع وكلاء الذكاء الاصطناعي من تقويض خصوصية التطبيقات على مستوى التطبيق دون المساس بتجربة المستخدم الأساسية بشكل جذري. هذا هو السبب أيضًا في عدم قدرة Signal حاليًا على تنفيذ هذه الحمايات على macOS.
استجابة Apple وتوجهات الصناعة
من جانبها، تتخذ Apple بعض الإجراءات لتنفيذ الحماية من وكلاء الذكاء الاصطناعي على macOS، ويبدو أنها تفعل ذلك بشكل كبير للدفاع ضد وصول الأطراف الثالثة إلى البيانات بدلًا من الحد من خدمة Siri الخاصة بها. سيحصل نظام التشغيل macOS 27.3، الذي هو حاليًا في الاختبار التجريبي العام، على المزيد من عناصر التحكم الدقيقة في واجهتي برمجة التطبيقات: Device Control و Data Access، بالإضافة إلى Full Disk Access. سينتج عن ذلك المزيد من طلبات الأذونات لمستخدمي تطبيقات macOS التي تسعى للوصول إلى بيانات المستخدم، ومتطلبات إضافية للحصول على ترخيص من Apple للوصول الكامل للقرص لبرامج النسخ الاحتياطي والتقنيات المساعدة.
ترى Apple أن «مع تزايد قدرات واستقلالية وكلاء الذكاء الاصطناعي، ستنمو المخاطر المرتبطة بهذا المستوى من الوصول بشكل كبير». وتسعى لضمان فهم المستخدمين لهذه المخاطر بوضوح قبل منح مثل هذا الوصول، حتى يتمكنوا من اتخاذ قرارات مستنيرة بشأن بياناتهم وخصوصيتهم.
هذه التطورات لا تقتصر على Signal و Apple فقط. فقد قامت شركات أخرى بحظر أو تقييد وكلاء الذكاء الاصطناعي، مثل Amazon التي حظرت وكلاء التسوق مثل Meta Muse من موقع التجارة الإلكترونية الخاص بها، و United Airlines التي منعت المعاملات من روبوتات الذكاء الاصطناعي غير المصرح بها. في المقابل، دعت Walmart وكلاء الطرف الثالث للتفاعل عبر AI Gateway الخاص بها. وينمو قطاع متخصص في اكتشاف الروبوتات وتخفيف أثرها، بقيادة شركات مثل Cloudflare و Akamai و DataDome.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين في المنطقة العربية، فإن هذه التحولات تحمل أهمية بالغة. أولاً، يجب على المطورين أن يكونوا على دراية بأنظمة وكلاء الذكاء الاصطناعي المتغلغلة في أنظمة التشغيل وكيف يمكنها التفاعل مع بيانات التطبيقات. قد يتطلب هذا إعادة التفكير في تصميم ميزات الخصوصية وتنفيذها، مثل حظر لقطات الشاشة أو آليات حماية البيانات الأخرى.
ثانياً، تسلط هذه التطورات الضوء على الحاجة الملحة لأدوات قوية تسمح للمطورين بالتحكم في وصول وكلاء الذكاء الاصطناعي دون المساس بتجربة المستخدم. يجب مراقبة تحديثات أنظمة التشغيل (مثل macOS 27.3) عن كثب، حيث قد توفر APIs جديدة أو آليات تحكم أكثر دقة. على المصممين أيضًا التفكير في كيفية توضيح طلبات الأذونات وتوفير خيارات شفافة للمستخدمين فيما يتعلق بكيفية وصول وكلاء الذكاء الاصطناعي إلى بياناتهم، لتعزيز الثقة والتحكم في الخصوصية.
المصدر: theregister.com