نرى أن مشكلة استخدام الموظفين لأدوات الذكاء الاصطناعي الشخصية مثل ChatGPT في بيئة العمل تتزايد، حتى مع توفر حلول المؤسسات المدفوعة. هذا السلوك قد يؤدي إلى تسرب بيانات حساسة للشركة، مثل تفاصيل العملاء أو وثائق داخلية، كما حدث في حالات سابقة.
مشكلة تسرب البيانات المحتملة
عندما يستخدم الموظفون حساباتهم الشخصية لـ ChatGPT، يصبح من الصعب على فرق الأمن تقييم ما يتم إرساله إلى النموذج. ففي سيناريو افتراضي، قد يقوم الموظف بنسخ ولصق تفاصيل تذكرة دعم عميل تحتوي على معلومات حساسة، أو حتى وثائق حكومية إذا كان هذا مجال العمل، كما فعل مدير CISA بالنيابة في عام 2025.
بدون أدوات متخصصة، قد تكتشف فرق الأمن استخدام حساب ChatGPT شخصي، ولكنها لا تستطيع معرفة محتوى المطالبة. هذا يتطلب استجواب الموظف، مما قد يكون محرجًا ويفتقر إلى الدقة، ويعني أن تسرب البيانات قد حدث بالفعل.
حلول لإدارة استخدام الذكاء الاصطناعي
تُقدم حلول مثل NordLayer AI Scout طريقة أكثر فعالية لإدارة هذه المخاطر. يمكن لهذه الأداة، التي تعمل كإضافة متصفح، تصنيف محادثات ChatGPT على أنها شخصية أو خاصة بالشركة. والأهم من ذلك، يمكنها فحص المطالبات على الجهاز قبل إرسالها إلى ChatGPT. إذا تطابقت المطالبة مع قواعد بيانات حساسة معينة، يمكن للأداة منع الإرسال تلقائيًا، ويُعرض إشعار للموظف بأن المطالبة قد حُظرت.
تسمح هذه الأدوات بتحديد إجراءات مختلفة حسب فئة البيانات، مثل «التحذير» (Warn) الذي يُمهل الموظف لاتخاذ قرار الإرسال أو التعديل، أو «التنقيح» (Redact) لإزالة القيم المطابقة وإرسال البقية، أو «الحظر» (Block) الذي يوقف المطالبة بالكامل. هذا يقلل بشكل كبير من الحاجة إلى التدخل البشري في مراجعة المحتوى الحساس.
لماذا يستخدم الموظفون حساباتهم الشخصية؟
يُشير فاكاريس نوريكا، نائب رئيس أبحاث وتطوير المنتجات في NordLayer، إلى أن دوافع استخدام الحسابات الشخصية غالبًا ما تكون بسيطة. قد يكون انتهاء صلاحية جلسة العمل، أو استغراق المصادقة الثنائية وقتًا طويلاً، أو ببساطة أن نافذة ChatGPT الشخصية كانت مفتوحة بالفعل وسُجل الدخول إليها. هذه الأسباب، وإن كانت تبدو غير ضارة، يمكن أن تؤدي إلى مخاطر كبيرة إذا لم تُعالج بسياسات واضحة وتوفير وصول سهل وموثوق إلى أدوات الذكاء الاصطناعي المعتمدة من الشركة.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين، يعني هذا أن الوعي بسياسات الشركة المتعلقة باستخدام أدوات الذكاء الاصطناعي أمر بالغ الأهمية. فكل ما يُدخل إلى هذه الأدوات، حتى في سياق العمل الشخصي، قد يشكل خطرًا على أمن البيانات. كما تُظهر هذه التطورات الاتجاه المتزايد نحو أدوات الحوكمة التي تدمج في سير العمل للتحكم في استخدام الذكاء الاصطناعي، مما يتطلب منهم فهم كيفية عمل هذه الضوابط والالتزام بها. تتوفر تجربة مجانية لمدة 30 يومًا لأداة NordLayer AI Scout.
المصدر: bleepingcomputer.com