في عالم المحاكم الذي يتطلب الدقة واليقين، أصبح الاعتماد المتزايد على أدوات الذكاء الاصطناعي لكتابة المذكرات القانونية يخلق مشكلة متفاقمة: «الهلوسات» الناتجة عن نماذج الذكاء الاصطناعي. تتجلى هذه المشكلة في ظهور مراجع قانونية ملفقة واقتباسات محرفة من آراء المحاكم في الوثائق المقدمة، مما يؤدي إلى عواقب وخيمة للمحامين.
لمواجهة هذه المعضلة، ظهرت أداة جديدة تُدعى CiteProof، والتي تهدف إلى فحص المذكرات والمستندات القانونية بحثًا عن الاستشهادات الكاذبة أو الاقتباسات الخاطئة قبل أن تتسبب في عقوبات أو غرامات أو إحراج مهني أمام القضاة.
مشكلة الهلوسات المتكررة
هذه المشكلة ليست جديدة؛ فقد اعتمد المحامون على الذكاء الاصطناعي لعدة سنوات بنتائج وصفت بـ«الفظيعة» في بعض الأحيان. فبالرغم من قدرة نموذج GPT-4 على اجتياز امتحان المحاماة في عام 2023، إلا أنه كان يُهلوس في صياغة السوابق القضائية. ولم تكن نماذج OpenAI وحدها المتسببة في مشاكل للمحامين، فقد تعرض نموذج Claude للمساءلة عندما ألقت مراجع قانونية تابعة لـAnthropic باللوم عليه في قضية انتهاك حقوق نشر موسيقية، حيث تضمنت مراجع غير صحيحة لم تُكتشف في المراجعة.
العديد من قصص هلوسات الذكاء الاصطناعي في الوثائق القانونية تتصدر الأخبار، وقد أدت إلى عواقب تتجاوز التوبيخ المهني؛ ففي العام الماضي، أُلغي قرار محكمة في ولاية جورجيا بعد اكتشاف احتوائه على استشهادات خيالية.
كيف تعمل CiteProof؟
تتخذ CiteProof منهجًا حاسمًا في حل هذه المشكلة، حيث صرح متحدث باسمها: «لا يمكنك اكتشاف هلوسات الذكاء الاصطناعي بشكل موثوق به باستخدام المزيد من تخمينات الذكاء الاصطناعي». وعلى هذا الأساس، فإن CiteProof لا تعتمد على أي نماذج لغوية كبيرة (LLMs) أو نماذج احتمالية، بل تستخدم عمليات بحث مباشرة وحاسمة في السجلات العامة للمحاكم للتحقق مما إذا كانت الاستشهادات المذكورة حقيقية أم مُختلقة.
تقدم CiteProof للمستخدمين المجانيين إمكانية إجراء فحوصات فردية للاستشهادات أو القوانين، بينما يمكن للمستخدمين المدفوعين الحصول على فحوصات أعمق تتضمن تقارير تحقق مفصلة، والتحقق من الاقتباسات، والمسح الجماعي. وتؤكد الشركة أن المعلومات المستخرجة من الاستشهادات يتم إرسالها إلى خدمة CourtListener فقط للتحقق من صحتها، وأن جميع العمليات تتم في الولايات المتحدة دون تخزين البيانات أو إرسالها إلى أي نموذج لغوي كبير.
لا تهدف CiteProof إلى تشجيع الاعتماد الأعمى على الذكاء الاصطناعي، بل تعمل كحارس موضوعي غير معتمد على الذكاء الاصطناعي لضمان اكتشاف الاستشهادات الملفقة قبل وصولها إلى سجلات المحكمة، إدراكًا منها أن المحامين سيستمرون في استخدام أدوات الذكاء الاصطناعي لسرعة البحث والصياغة.
تبدأ تكلفة فحص موجز واحد بقيمة 49 دولارًا (حوالي 183.75 ريال سعودي أو 180.00 درهم إماراتي)، مع حزم تقدم أسعارًا مخفضة مثل 199 دولارًا لخمسة موجزات (حوالي 746.25 ريال سعودي أو 731.33 درهم إماراتي)، وصولًا إلى 499 دولارًا شهريًا (حوالي 1871.25 ريال سعودي أو 1833.33 درهم إماراتي) لمراجعة 200 موجز للمكاتب القانونية.
ماذا يعني هذا للمطورين؟
بالنسبة للمطورين والمصممين الذين يعملون مع الذكاء الاصطناعي، تسلط هذه القصة الضوء على أهمية التعامل بحذر مع مخرجات نماذج اللغة الكبيرة، خاصة في المجالات التي تتطلب دقة عالية مثل القانون. إنها تذكير بأن «هلوسات» الذكاء الاصطناعي مشكلة حقيقية تتطلب حلولًا عملية. وبرأينا، فإن تطوير «حواجز حماية» غير معتمدة على الذكاء الاصطناعي، تعتمد على قواعد بيانات ومعلومات موثوقة للتحقق من صحة مخرجات الذكاء الاصطناعي، يمكن أن يكون نهجًا فعالًا لضمان موثوقية الأنظمة التي تعتمد على الذكاء الاصطناعي في تطبيقات العالم الحقيقي، وتجعلنا ندرك أن الذكاء الاصطناعي ليس الحل الوحيد لكل مشكلة.
المصدر: theregister.com