لقد أصبح ChatGPT، وغيره من روبوتات الدردشة المدعمة بالذكاء الاصطناعي، أدوات قوية غيرت طريقة تفاعلنا مع المعلومات. ومع ذلك، فإن هذه القوة تأتي مع مسؤولية كبيرة، فليست كل المهام مناسبة للاعتماد على الذكاء الاصطناعي. فكر في الأمر: هو ليس محاميًا، وليس طبيبًا، وبالتأكيد ليس معالجك النفسي.
تتزايد قائمة الأفراد الذين واجهوا مشكلات جمة بسبب استخدام معلومات خاطئة أو حساسة مع ChatGPT. من مهندسي سامسونج الذين قاموا بتحميل أكواد سرية، إلى المتقاضين الذين قدموا استشهادات قانونية وهمية، وصولًا إلى من استبدل ملح الطعام بمواد سامة بناءً على نصيحة خاطئة؛ القصص كثيرة ومثيرة للقلق.
حتى سام ألتمان، الرئيس التنفيذي لـ OpenAI، يعترف بأن ما تشاركه مع ChatGPT ليس خاصًا. ففي حوارات سابقة، أشار إلى أن المحاكم قد تجبر OpenAI على تسليم سجلات الدردشات، واصفًا هذا الأمر بأنه معقد للغاية. بينما تحمي القوانين المحادثات مع محامٍ أو طبيب أو معالج، فإن إفشاء المعلومات لـ ChatGPT يخلق مسارًا للمراقبة والتدقيق، وقد تم استدعاء هذه المحادثات وفهرستها وحتى حفظها بأمر من المحكمة في مناسبات عدة.
في حين أن برنامج الدردشة الآلي يمكن أن يكون مفيدًا في البحث (مع ضرورة التحقق من المعلومات)، والترميز، وشرح المفاهيم، والصياغة الأولية؛ إلا أن هناك مناطق معينة يجب على ملايين المستخدمين تجنبها تمامًا لتجنب الوقوع في مشاكل. لذا، لتجنيب نفسك المخاطر، لا تستخدم ChatGPT (أو أي برنامج دردشة آلي آخر يعمل بالذكاء الاصطناعي) للمهام التالية:
للحصول على المشورة القانونية
أظهرت العديد من الحالات أن الاعتماد على ChatGPT في الشؤون القانونية محفوف بالمخاطر. يحتفظ داميان شارلوتين، الباحث في القانون وعلوم البيانات، بقاعدة بيانات عامة سجلت حتى الآن أكثر من 2000 قرار قضائي حول العالم تأثر سلبًا بمعلومات خاطئة قدمها ChatGPT. تتضمن هذه الحالات استشهادات قانونية، اقتباسات، وحججًا ملفقة بالكامل من قبل الذكاء الاصطناعي.
لا يقتصر الأمر على المتقاضين الذين يمثلون أنفسهم فحسب، بل يشمل المحامين أيضًا. لقد سئم القضاة من هذه الممارسات، وفرضت المحاكم مؤخرًا غرامات مالية كبيرة في عدد متزايد من القضايا. ورغم أن الولايات المتحدة تستأثر بالنصيب الأكبر من هذه الحالات، إلا أن قضاة في المملكة المتحدة وجنوب أفريقيا وإسرائيل وأستراليا وإسبانيا قد اكتشفوا سلوكًا مماثلًا، وكان ChatGPT الأداة الأكثر ذكرًا في هذه الحالات.
عالجت OpenAI هذه المشكلة بتحديث سياسات الاستخدام في أكتوبر الماضي، حيث حظرت الآن استخدام خدماتها لتقديم مشورة متخصصة تتطلب ترخيصًا ما لم يشارك فيها محترف مرخص. بعيدًا عن الاستشهادات الكاذبة، تفتقر محادثات ChatGPT إلى الامتياز القانوني، مما يعني أن أي شيء يُكتب فيها حول نزاع مباشر قد يصبح متاحًا لمحامي الطرف الآخر في عملية الاكتشاف. لا تتردد في طرح أسئلة عامة، لكن احتفظ بالأسئلة التفصيلية حول نزاعك الخاص لمحامٍ حقيقي.
كمعالج أو مستشار نفسي
تشير تقديرات OpenAI إلى أن نسبة كبيرة من مستخدمي ChatGPT الأسبوعيين يجرون محادثات تتضمن مؤشرات واضحة على التخطيط المحتمل للانتحار أو علامات الذهان والهوس. وقد ذكر سام ألتمان أن الشباب على وجه الخصوص يتعاملون مع ChatGPT كمعالج أو مدرب حياة، وهو أمر خطير بالنظر إلى أن لا شيء يحمي خصوصية هذه الدردشات.
في حادثة مأساوية، رفع والدا آدم رين، البالغ من العمر 16 عامًا، دعوى قضائية ضد OpenAI بتهمة القتل الخطأ، زاعمين أن ChatGPT عزز الأفكار الانتحارية لابنهما قبل وفاته. ومنذ ذلك الحين، أعادت OpenAI صياغة استجاباتها للأزمات بمساهمة من أكثر من 170 طبيبًا، كما أضافت الشركة أدوات رقابة أبوية إلى ChatGPT.
لقد وجد الباحثون أن روبوتات الدردشة تميل إلى تعزيز المعتقدات الحالية للمستخدم من خلال استجابات متملقة، وفي بعض الحالات تغذي التفكير الوهمي بدلاً من تحديه. على سبيل المثال، إذا وصفت جدالًا مع شريك حياتك، سيعمل النموذج من سياق سردك أنت فقط، وقد يقدم لك حكمًا مؤكدًا بغض النظر عن الحقيقة الكاملة. بدأت الهيئات التشريعية في الانتباه إلى هذه الحقيقة، حيث أصدرت ولايات قوانين تحظر على الذكاء الاصطناعي تقديم العلاج أو اتخاذ القرارات العلاجية. لذلك، فإن طلب المشورة النفسية من ChatGPT يمكن أن يؤدي إلى تفاقم المشكلات بدلاً من حلها.
بمعلومات العمل السرية
يجب أن يكون من البديهي أن تحميل مستندات العمل السرية إلى برنامج محادثة تابع لجهة خارجية هو دائمًا فكرة سيئة، ومع ذلك، يبدو أن الكثير من الناس لا يدركون ذلك.
في حادثة شهيرة، قام مسؤول في وكالة الدفاع السيبراني الأمريكية بتحميل ما لا يقل عن أربع وثائق تعاقدية تحمل علامة للاستخدام الرسمي فقط إلى الإصدار العام من ChatGPT. أدى ذلك إلى إطلاق تنبيهات أمنية ومراجعة من وزارة الأمن الداخلي. والغريب أن الأداة كانت محظورة على معظم موظفي الوزارة في ذلك الوقت، وقد طلب المسؤول استثناءً خاصًا لاستخدامه. هددت مذكرة داخلية في سامسونج بفصل الموظفين الذين يقومون بذلك.
حظرت سامسونج أدوات الذكاء الاصطناعي العامة على أجهزة الشركة بعد أن قام مهندسوها بلصق كود المصدر الداخلي في ChatGPT. جاء هذا الحظر مصحوبًا بمذكرة داخلية تفيد بأن البيانات المرسلة إلى هذه المنصات تُخزن على خوادم خارجية حيث يصعب استردادها أو حذفها، وقد ينتهي الأمر بالكشف عنها لمستخدمين آخرين. في حسابات العملاء، يمكن أيضًا استخدام الدردشات لتدريب النماذج الجديدة ما لم يقم المستخدم بإلغاء الاشتراك، وحتى عند إلغاء الاشتراك، تظل البيانات مخزنة وقابلة للاختراق وتخضع للإجراءات القانونية. لصق بيانات العملاء أو أي معلومات تخضع لضوابط صاحب العمل أو اتفاقيات عدم الإفشاء في مناقشة ChatGPT شخصية هو جريمة قد تؤدي إلى الفصل.
لطلب المشورة الطبية
نفس تحديث السياسة الذي أجرته OpenAI في أكتوبر 2025 والذي يحظر على المستخدمين استخدام ChatGPT كمحامٍ، يمنع أيضًا الأشخاص من طلب المشورة الطبية عبر روبوت الدردشة. قانون HIPAA يحمي الأطباء وشركات التأمين وشركاءهم التجاريين، لكنه لا يلزم OpenAI. وبالتالي، فإن البيانات الصحية المحمية قانونيًا في بوابة المريض أو بين الطبيب والمريض لا تتمتع بمثل هذه الحماية إذا تم الكشف عنها لـ ChatGPT.
أفاد باحثون من جامعة نورث إيسترن أن بينما قامت OpenAI بتشديد تعامل ChatGPT مع حالات الانتحار وإيذاء النفس، فإن هذه الضمانات لا تمتد إلى حد كبير إلى حالات أخرى. ووجد عملهم أن المحادثات التي تنطوي على حالات مثل اضطرابات الأكل، والأرق، وتعاطي المخدرات، والاضطراب ثنائي القطب لم تؤد إلى تفعيل الضمانات، وأن إخفاء النية جعل وسائل الحماية لكل نموذج تم اختباره أكثر عرضة للفشل.
في حالة غريبة بشكل خاص حيث أصبحت المشورة الطبية من ChatGPT سيئة، أمضى رجل يبلغ من العمر 60 عامًا ثلاثة أسابيع في المستشفى بعد أن سأل روبوت الدردشة عن كيفية إزالة الكلوريد من نظامه الغذائي. انتهى به الأمر إلى الاقتناع بأن بروميد الصوديوم، وهي مادة سامة، كان بديلاً آمنًا لملح الطعام. لقد اشتراها عبر الإنترنت، وتناولها لمدة ثلاثة أشهر، وانتهى به الأمر في قسم الطوارئ مقتنعًا بأن جاره قد سممه. حتى لو لم ير الأطباء سجلات الدردشة، فقد عرض ChatGPT البروميد كبديل للكلوريد عندما طرحوا نفس السؤال على الروبوت بأنفسهم. المخاطر الصحية المرتبطة بالاعتماد على الذكاء الاصطناعي في التشخيص أو العلاج حقيقية وخطيرة.
للقيام بأي شيء يتعلق بكلمات المرور أو أرقام الهوية أو تفاصيل الحساب
في يوليو الماضي، عثرت مجلة Fast Company على ما يقرب من 4500 محادثة ChatGPT مشتركة كامنة في نتائج بحث Google. وشملت هذه التبادلات أوصافًا للإدمان وسوء المعاملة وصراعات الصحة العقلية بتفاصيل كافية لتحديد هوية مؤلفيها. تم فهرسة الدردشات لأن الأشخاص قاموا بتحديد مربع الاختيار جعل هذه الدردشة قابلة للاكتشاف في قائمة المشاركة، والذي حدث على ما يبدو دون أن يفهموا عواقبه. استجابت OpenAI بسرعة، وأنهت الميزة في غضون يوم واحد من التقرير وحذفت المحادثات من Google.
وكجزء من دعوى حقوق الطبع والنشر التي رفعتها نيويورك تايمز، طُلب من OpenAI في مايو 2025 الاحتفاظ بكل سجل دردشة للمستهلك، بما في ذلك المحادثات المحذوفة والمؤقتة. استمر هذا الالتزام حتى 26 سبتمبر 2025، وظلت السجلات المحفوظة خلال تلك الفترة في متناول المدعين. على الرغم من أن القاضي أنهى هذا الأمر لاحقًا، مما يعني أن OpenAI لم يعد مضطرًا إلى الاحتفاظ بجميع بيانات ChatGPT الخاصة به، إلا أن هذه الواقعة تثبت أن ذلك ممكن وقد يتكرر.
من المهم أن تدرك أن ChatGPT يتذكر ما تقوله له بشكل افتراضي. وهذا يزيد بشكل كبير من المخاطر المتعلقة بالأمور الحساسة مثل كلمات المرور وتفاصيل الحساب، حيث يمكن أن تستمر هذه المعلومات عبر الجلسات وتظهر مرة أخرى في المحادثات اللاحقة إذا ذُكرت ولو مرة واحدة. يجب ألا تدخل كلمات المرور، ورموز تسجيل الدخول لمرة واحدة، وأرقام الضمان الاجتماعي وجوازات السفر، وتفاصيل البطاقة الكاملة أو الحساب المصرفي، وصور مستندات الهوية في مطالبات ChatGPT أبدًا. كل واحدة من هذه المعلومات تعرضك لخطر سرقة الهوية إذا تم اختراق الدردشة أو الوصول إليها بطريقة أخرى.
دعا ألتمان إلى امتياز الذكاء الاصطناعي (بالطبع) لإصلاح مشكلات السرية هذه. ولكن إلى أن ينشئ المشرعون مثل هذا الامتياز، فإن الافتراض الآمن هو أن أي شيء تتم كتابته في ChatGPT يمكن أن يقرأه شخص آخر يومًا ما. إذا لم تكن مرتاحًا لذلك، فلا تضعه في رسالة مطالبة.