في سابقة خطيرة تسلط الضوء على التحديات المتزايدة لاستخدام الذكاء الاصطناعي في المجال القانوني، عاقبت المحكمة العليا في ولاية نيو مكسيكو محامياً بغرامة قدرها 5000 دولار أمريكي. لم يكن السبب نقصاً في الكفاءة، بل كان اعتماده على محتوى مُهلوس ومُختلق بالكامل من قبل الذكاء الاصطناعي، بما في ذلك شهود مزورون وشهادات شرطة زائفة، في استئناف لإدانة موكله بالقتل.
تفاصيل القضية: هلوسات الذكاء الاصطناعي وغرامة المحكمة
كشف تقرير صادر عن رويترز أن المحامي ستيفن آرونز أدرج شهادات مزورة لشهود وشهادة شرطة غير حقيقية في مذكرة استئناف قضية قتل. فرضت المحكمة، في إيداعها يوم الأربعاء، غرامة قدرها 5000 دولار على آرونز واحتجزته بتهمة ازدراء المحكمة لفشله في التحقق من الادعاءات الواقعية والسلطة القانونية في مذكراته التي أنشأها الذكاء الاصطناعي. وذكر الملف أن المذكرة احتوت على شهادات كاذبة من شهود مُختلقين بالكامل، بالإضافة إلى شهادات زائفة حول ملابس مطلق النار ومظهره.
خلال جلسة استماع في أغسطس، استجوب القاضي سي. شانون بيكون المحامي آرونز عن كيفية جهله بالمخاطر التي يشكلها الذكاء الاصطناعي، خاصة بعد اعترافه باستخدام ChatGPT اعتقاداً منه بأنه سيقدم ملخصاً دقيقاً وموثوقاً للمحاكمة. سأل القاضي بيكون، وفقاً لرويترز: أيها المحامي، هل تشاهد الأخبار؟ هل تستمع إلى الراديو؟ هل تقرأ أي شيء عما يحدث في العالم؟ لأن مشكلة اعتماد المحامين على هلوسة الذكاء الاصطناعي هي قصة متداولة كل يوم.
انتشار هلوسات الذكاء الاصطناعي في الممارسات القانونية
مع تزايد أعداد المحامين الذين يستخدمون أدوات الذكاء الاصطناعي في عملهم، تتزايد أيضاً الحالات التي تكتشف فيها المحاكم استشهادات مُختلقة أو مُهلوسة بواسطة الذكاء الاصطناعي. ففي العام الماضي، انتقد قاضٍ مكتبين للمحاماة لتقديمهما مذكرة تحتوي على العديد من الاستشهادات والاقتباسات القانونية الكاذبة وغير الدقيقة والمضللة. كما تم تغريم محامي ماي بيلو (MyPillow) مايك ليندل بسبب وضع اقتباسات خاطئة واستشهادات زائفة مولدة بالذكاء الاصطناعي في مذكرات قانونية.
وعلق المحامي آرونز على الحادثة قائلاً، في بيان لرويترز: أتأسف على ما حدث، لكنني آمل أن يأخذ المجلس التأديبي في الاعتبار أنه كان خطأً واضحاً.
تؤكد هذه الحوادث على الأهمية القصوى للتدقيق البشري والتحقق المستمر عند استخدام أدوات الذكاء الاصطناعي في المجالات الحساسة مثل القانون. فبينما يقدم الذكاء الاصطناعي إمكانات هائلة لتعزيز الكفاءة، يظل الفهم العميق للمخاطر المحتملة والالتزام بالمعايير المهنية هو حجر الزاوية لتجنب العواقب الوخيمة التي قد تنجم عن الاعتماد الأعمى على تقنياته.