تحتفل TechSpot بالذكرى السنوية الخامسة والعشرين لتأسيسها. TechSpot يعني التحليل الفني والمشورة يمكنك الوثوق.
كف الوجه: يتطلب تدريب نماذج الذكاء الاصطناعي التوليدية التنسيق والتعاون بين العديد من المطورين، ويجب إجراء فحوصات أمنية إضافية. من الواضح أن مايكروسوفت تفتقر إلى هذا الصدد، حيث قامت الشركة بتعريض كميات هائلة من البيانات للخطر لسنوات.
بين 20 يوليو 2020 و24 يونيو 2023، كشفت Microsoft عن مجموعة كبيرة من البيانات لشبكة الويب العامة من خلال مستودع GitHub العام. اكتشفت شركة الأمن السحابي Wiz المشكلة وأبلغت Microsoft عنها في 22 يونيو 2023، وأبطلت الشركة رمزها غير الآمن بعد يومين. يتم الكشف عن الحادث للجمهور الآن فقط، مثل Wiz كشف النقاب المحنة الأمنية على مدونتها الرسمية.
من خلال الاستخدام غير الصحيح لميزة النظام الأساسي Azure المعروفة باسم الرموز المميزة لتوقيع الوصول المشترك (SAS)، يقول باحثو Wiz أن Microsoft كشفت عن طريق الخطأ عن 38 تيرابايت من البيانات الخاصة على عملية نقل النماذج القوية. مستودع جيثب. تم استخدام الأرشيف لاستضافة تعليمات برمجية مفتوحة المصدر ونماذج الذكاء الاصطناعي للتعرف على الصور، وكان باحثو الذكاء الاصطناعي في Microsoft يشاركون ملفاتهم من خلال رمز SAS شديد التساهل.
توفر رموز SAS طريقة لمشاركة عناوين URL الموقعة لمنح الوصول الدقيق إلى البيانات المستضافة على مثيلات Azure Storage. يمكن للمستخدم تخصيص مستوى الوصول، ويشير رمز SAS المحدد الذي يستخدمه باحثو Microsoft إلى مجموعة تخزين Azure التي تم تكوينها بشكل خاطئ والتي تحتوي على كميات كبيرة من البيانات الحساسة.
إلى جانب بيانات التدريب لنماذج الذكاء الاصطناعي الخاصة بها، كشفت مايكروسوفت عن نسخة احتياطية على قرص لمحطتي عمل للموظفين، وفقًا لما ذكره ويز. تضمنت النسخة الاحتياطية “أسرارًا” ومفاتيح تشفير خاصة وكلمات مرور وأكثر من 30000 رسالة داخلية من Microsoft Teams تخص 359 موظفًا في Microsoft. كان من الممكن لأي شخص الوصول إلى إجمالي 38 تيرابايت من الملفات الخاصة، على الأقل حتى ألغت Microsoft رمز SAS الخطير في 24 يونيو 2023.
على الرغم من فائدتها، تشكل رموز SAS خطرًا أمنيًا بسبب نقص المراقبة والحوكمة. يقول Wiz أن استخدامها يجب أن يكون “محدودًا قدر الإمكان”، حيث يصعب تتبع الرموز المميزة لأن Microsoft لا توفر طريقة مركزية لإدارتها من خلال بوابة Azure.
علاوة على ذلك، يمكن تكوين رموز SAS لتستمر “بشكل فعال إلى الأبد”، كما يوضح Wiz. تمت إضافة الرمز المميز الأول الذي التزمت به Microsoft إلى مستودع AI GitHub الخاص بها في 20 يوليو 2020، وظل صالحًا حتى 5 أكتوبر 2021. تمت إضافة رمز مميز ثانٍ لاحقًا إلى GitHub، مع تحديد تاريخ انتهاء الصلاحية في 6 أكتوبر 2051.
يسلط حادث مايكروسوفت متعدد التيرابايت الضوء على المخاطر المرتبطة بالتدريب على نموذج الذكاء الاصطناعي، وفقًا لـ Wiz. ويوضح الباحثون أن هذه التكنولوجيا الناشئة تتطلب “مجموعات كبيرة من البيانات للتدريب عليها”، حيث تتعامل العديد من فرق التطوير مع “كميات هائلة من البيانات”، أو تشاركها مع أقرانهم، أو تتعاون في مشاريع عامة مفتوحة المصدر. أصبحت الحالات المشابهة لمايكروسوفت “من الصعب مراقبتها وتجنبها بشكل متزايد”.