ديبانجان ساها هو الرئيس التنفيذي لشركة بيانات روبوت وهو خبير تقني صاحب رؤية وخبرة قيادية في شركات التكنولوجيا الكبرى مثل Google وAWS وIBM.
عند استخدام الذكاء الاصطناعي التوليدي (GenAI) للتسويق أو الإعلان أو الترفيه، قد يكون من المقبول في بعض الأحيان الحصول على استجابة مكتوبة بشكل احترافي ولكنها غير دقيقة من الناحية الواقعية.
ولكن بالنسبة للغالبية العظمى من حالات استخدام الذكاء الاصطناعي، فإن المخاطر أعلى. وهذا الافتقار إلى الثقة في مخرجات الذكاء الاصطناعي يمنع القادة من استخدامه في التفاعلات الخارجية عالية المخاطر مثل الرعاية الصحية والتمويل.
“الهلوسة“إنها مجرد واحدة من التحديات العديدة التي تمنع الفرق من تنفيذ GenAI: إذا كنت بحاجة إلى التحقق من الردود والبحث عنها لضمان الدقة، فمن الأفضل أن تقوم بهذه المهمة بنفسك.
في حين أن المخرجات غير المتوقعة يمكن أن تتراوح من مجرد نتائج مزعجة وغير منتجة إلى نتائج خطيرة محتملة، فإن هلوسات الذكاء الاصطناعي – صدق أو لا تصدق – قد تكون مفيدة في الكشف عن مدى حداثة عمليات الذكاء الاصطناعي ونقاط التفتيش والإدارة الخاصة بك ومدى جودتها على مستوى المؤسسة.
الأسباب الجذرية للهلوسة LLM
أولاً، دعونا نلقي نظرة عن كثب على الأسباب الجذرية للهلوسة LLM.
1. حدود بيانات التدريب: يتم تدريب طلاب الماجستير في القانون على مجموعات بيانات ضخمة تتكون من نصوص من الإنترنت والكتب والمزيد. قد تحتوي مجموعات البيانات هذه على معلومات غير دقيقة أو متحيزة أو قديمة. يمكن لطلاب الماجستير في القانون تعلم هذه العيوب وتكرارها في مخرجاتهم.
2. أخطاء التفسير والاستدلال: يقوم خبراء التعلم العميق بإنشاء استجابات بناءً على الأنماط والارتباطات الموجودة في البيانات التي تم تدريبهم عليها. وقد يخطئون في تفسير الاستعلام أو يتوصلون إلى استنتاجات غير صحيحة، مما يؤدي إلى استجابات غير صحيحة أو غير منطقية.
3. الافتقار إلى المعرفة العالمية: في حين يمكن لـ LLMs محاكاة الفهم من خلال الكم الهائل من المعلومات التي تم تدريبها عليها، إلا أنها لا تمتلك فهمًا أو وعيًا حقيقيًا. وقد يؤدي هذا إلى أخطاء عندما يحاول النموذج توليد معلومات حول أحداث جديدة أو مفاهيم معقدة أو مجالات خبرة محددة خارج بيانات التدريب الخاصة به.
4. التعميم المفرط: قد تقوم برامج إدارة التغيير بتعميم بيانات التدريب بشكل مفرط، مما يؤدي إلى استجابات تبدو معقولة ولكنها غير صحيحة أو تستند إلى مواد تدريبية غير دقيقة من الناحية الواقعية.
5. قيود السياق: قد يواجه طلاب الماجستير في القانون صعوبة في الحفاظ على السياق وفهمه أثناء المحادثات أو النصوص الطويلة. وقد يؤدي هذا إلى ردود غير متسقة أو غير متوافقة تمامًا مع الاستفسار الأولي أو المحادثة الجارية.
6. تعقيد النموذج والتعتيم: إن العمليات الداخلية لـ LLM معقدة وغير مفهومة تمامًا، حتى من قبل مبتكريها. وقد يؤدي هذا التعقيد إلى سلوكيات غير متوقعة، بما في ذلك الهلوسة التي يصعب التنبؤ بها أو تفسيرها.
تحويل مشكلة الهلوسة إلى فرصة
تسلط الهلوسات المتعلقة بالذكاء الاصطناعي الضوء على الفجوات في عمليات بناء الذكاء الاصطناعي وإدارته وتشغيله. ويتعين على مديري المعلومات وقادة الذكاء الاصطناعي فحص كل من هذه المجالات الثلاثة الحرجة مع التركيز على الموثوقية والاستقرار والتدخل لضمان توافق النتائج المتوقعة مع النتائج المتوقعة.
ولتحقيق هذه الغاية، يتعين على قادة الذكاء الاصطناعي التعامل مع الهلوسات باعتبارها جزءًا لا يتجزأ من دورة حياة تطوير الذكاء الاصطناعي. وتتيح الهلوسات التي تصاحب الذكاء الاصطناعي لمديري تكنولوجيا المعلومات وقادة الذكاء الاصطناعي معرفة المجالات التي يتعين عليهم الاستثمار فيها لإنشاء عمليات متطورة مصممة للتعامل مع الذكاء الاصطناعي.
لذلك، يحتاج قادة الذكاء الاصطناعي إلى مراقبة وتسجيل وملاحظة مخرجات GenAI في الوقت الفعلي للكشف عن الشذوذ. كما يتعين عليهم إنشاء حلقات ردود فعل للمستخدمين والحصول على تقارير الخبراء حول عدم الدقة بالإضافة إلى التسلسل الدقيق للمطالبة والاستجابة الناتجة لمعرفة المكان الذي يحتاجون فيه إلى تعزيز فهم الماجستير في القانون لموضوع ما.
كما هو الحال مع كل التقنيات الجديدة، فإن التركيز والحماس منصبان على بناء تطبيقات GenAI جديدة. ومع ذلك، لن يتم إدراك القيمة الحقيقية لـ GenAI إلا عندما يشعر مديرو المعلومات وقادة الذكاء الاصطناعي بالثقة في النتائج.
تتطلب هذه الثقة من قادة الذكاء الاصطناعي التركيز ليس فقط على البناء، بل وأيضًا على إدارة دورة الحياة والصيانة والإشراف والحوكمة والأمن لتسهيل التعرف المبكر على المشكلات المحتملة. والأمر الأكثر أهمية هو أن القادة يجب أن يضمنوا التطوير المستمر لنماذج GenAI من خلال التكرار والتدخل.
ومع ذلك، قد تكون الهلوسة أكثر من مجرد أخطاء بسيطة تحتاج إلى إصلاح. فقد تقدم طرقًا بديلة لحل المشكلات والإبداع.
الإبداع الاصطناعي
ولعل الجانب الأكثر إثارة للاهتمام في الهلوسة التي تولدها الذكاء الاصطناعي هو قدرتها على تعزيز الإبداع البشري بل وحتى توفير بديل له. وكثيراً ما تنطوي الهلوسة المعقدة على قيام الذكاء الاصطناعي بتوفير مجموعات غير متوقعة من الأفكار أو إعادة تكوين الأنماط بطرق غير موجودة صراحة في بيانات التدريب الخاصة به.
وهذا النوع من “الخطأ” يشبه أسس الإبداع البشري.
يتضمن الإبداع “الإنساني” تفعيل شبكات دماغية متنوعة وبعيدة في كثير من الأحيان لإعادة تجميع كميات كبيرة من المعلومات بطرق جديدة.
إن الذكاء الاصطناعي، وخاصة في استخدامه للشبكات العصبية، يحاكي هذه العملية من خلال الاعتماد على مجموعات بيانات ضخمة لإنتاج أنماط أو أفكار جديدة غير موجودة في بيانات التدريب الخاصة به. والهلوسات الناتجة عن الذكاء الاصطناعي تشبه القفزات الإبداعية التي يحرزها الدماغ في ربط الأفكار المتباينة. وتشير هذه القفزات إلى الإبداع في مرحلة مبكرة داخل الذكاء الاصطناعي، حيث تقدم الاستكشاف والتعلم وحل المشكلات على نحو يذكرنا بالخيال البشري.
احتضان الهلوسة
أولاً وقبل كل شيء: يحتاج مديرو المعلومات وقادة الذكاء الاصطناعي إلى الثقة في GenAI قبل أن يبدؤوا في استخدامه لإنشاء حلول للمشاكل المعقدة.
وسوف يستغرق الأمر بعض الوقت والخبرة للتعرف على متى ينبغي قبول “إبداع” الذكاء الاصطناعي أو تشجيعه أو كبح جماحه. وسيتعين على المستخدمين أيضًا أن يكونوا واضحين للغاية بشأن ما إذا كان الذكاء الاصطناعي الذي يستخدمونه يُظهِر “إبداعًا اصطناعيًا” بدلاً من تقديم مخرجات واقعية. وسوف يحتاج مديرو المعلومات وقادة الذكاء الاصطناعي إلى الشراكة مع المستخدمين لضمان عدم تقديم الذكاء الاصطناعي للإبداع عندما تكون المخرجات الموثوقة هي المطلوبة.
لتحقيق التوازن بين الإبداع والثقة، يجب على مسؤولي المعلومات وقادة الذكاء الاصطناعي التأكد من أن البناء والحوكمة والتشغيل سلسة وموحدة تمامًا في دورة حياة الذكاء الاصطناعي. لن تترك البنية الأساسية المتصدعة سوى رؤية متصدعة وانعدام الثقة في كيفية أداء مبادرات الذكاء الاصطناعي الخاصة بك. يعد الاستثمار في تبسيط دورة حياة الذكاء الاصطناعي الخاصة بك الخطوة الأولى الحاسمة التي تسمح للمؤسسات باستخدام GenAI بثقة في التفاعلات ذات المخاطر الأعلى.
تشير الهلوسات إلى فرصة هائلة ومثيرة للذكاء الاصطناعي لتوفير “الإبداع الاصطناعي” لحل المشكلات بطرق مختلفة وجديدة ومبتكرة. للقيام بذلك، يحتاج قادة الذكاء الاصطناعي إلى تبني التحديات الحالية حول الثقة واستخدام الأخطاء لفهم المجالات التي تحتاج إلى تحسين.
مجلس فوربس للتكنولوجيا هو مجتمع مخصص للدعوة فقط لمديري المعلومات ومديري التكنولوجيا والمديرين التنفيذيين للتكنولوجيا من الطراز العالمي. هل أنا مؤهل؟