نرى أن دمج الذكاء الاصطناعي في المنتجات يتجاوز مجرد الإمكانات التقنية؛ يتعلق الأمر بفهم عميق لكيفية تأثيره على المستخدمين. تتسارع وتيرة دمج نماذج الذكاء الاصطناعي في مختلف الأدوات والخدمات، لكن السؤال الحقيقي ليس «هل يمكننا إضافة الذكاء الاصطناعي؟» بل «هل يجب علينا ذلك؟».
في إحدى الحالات، أراد فريق منتج في شركة تأمين صحي كبيرة إضافة ذكاء اصطناعي لكتابة قرارات الاستئناف للمتخصصين. كانت التقنية تعمل كما هو متوقع، لكن المتخصصين توقفوا عن استخدامها، والذين استمروا استغرقوا وقتًا أطول في كل حالة. كشفت المحادثات أن قراءة قرار مكتوب بواسطة الذكاء الاصطناعي بعناية كافية لتوقيعه يستغرق نفس وقت كتابته، مع الحاجة أيضًا للتحقق من أخطاء لم يكونوا ليقعوا فيها بأنفسهم. هذا يعني أن الميزة أضافت عبئًا على مهمة أتقنها هؤلاء الأشخاص بالفعل.
لماذا قد تفشل ميزات الذكاء الاصطناعي؟
كل تغيير في واجهة المستخدم يكلف المستخدم شيئًا قبل أن يقدم له أي فائدة. يجب عليهم إعادة بناء تصورهم لكيفية عمل الأداة، ومعرفة أماكن الأشياء الجديدة، وتحديد مدى الثقة فيما يقدمه لهم الذكاء الاصطناعي. ميزة الذكاء الاصطناعي في بيئة برامج المؤسسات تتطلب المزيد من المستخدم أكثر من مجرد قائمة معاد تصميمها، لأنها تغير ما يفعله المستخدم طوال اليوم. هذا التغيير يمكن أن يؤدي إلى شعور المستخدمين بالتقليل من شأنهم أو حتى الخطر على هويتهم المهنية، خاصةً عند تحويل مهام التوليف أو التوصية إلى الذكاء الاصطناعي.
٤ أسئلة أساسية قبل التصميم
لمساعدة فرق المنتجات على اتخاذ قرارات أفضل، هناك أربعة أسئلة يمكن أن توجه عملية التصميم قبل بدء العمل الفعلي:
- هل يقلل هذا من إجمالي الجهد الذي تتطلبه المهمة من هذا المستخدم؟ يجب حساب كل ما تطلبه المهمة من المستخدم: التفكير، النقر، والتحقق بمجرد تدخل الذكاء الاصطناعي. قد لا يعني عدد أقل من النقرات بالضرورة جهدًا أقل. على سبيل المثال، إذا قام الذكاء الاصطناعي بملء حقل، فإن المستخدم يتولى مهمة التحقق، مما يحول إجراءً منخفض الجهد إلى إجراء يتطلب اهتمامًا عاليًا.
- هل يتفوق هذا على الطريقة التي يقوم بها المستخدم بالمهمة الآن؟ قارن نهج الذكاء الاصطناعي بالأسلوب الحالي للمستخدم، بما في ذلك جداول البيانات والحلول البديلة التي أنشأها بنفسه. يتفوق الذكاء الاصطناعي غالبًا عندما تكون هناك غموض حقيقي في المهمة، أو عند استكشاف الخيارات، أو إنتاج نقطة بداية، أو البحث عن أنماط كثيرة جدًا بحيث لا يمكن رصدها يدويًا. يختفي هذا التفوق بمجرد أن يكون لدى المستخدم طريق معتاد لإجابة معروفة.
- هل يمكن للمستخدم اكتشاف الأخطاء؟ كل نظام ذكاء اصطناعي يرتكب أخطاء. السؤال هو ما إذا كان المستخدم سيلحظها. يجب تقييم مدى وضوح الخطأ، وتكلفة عدم اكتشافه، وما إذا كان المستخدم لا يزال يمتلك المهارة اللازمة لاكتشافه. تشير الأبحاث إلى أن الناس يميلون إلى الاعتماد على المخرجات الآلية حتى لو كانت خاطئة (تحيز الأتمتة). لذا، يجب تصميم أنظمة تُظهر «المصدر والأصل» (provenance) للمعلومات لمساعدة المستخدمين على التحقق وبناء مستوى الثقة المناسب.
- بعد عام من استخدام هذا، هل لا يزال بإمكان المستخدم معرفة متى يكون الذكاء الاصطناعي مخطئًا؟ يجب أخذ فقدان المهارات في الاعتبار. فترك العمل الروتيني للذكاء الاصطناعي هو فائدة حقيقية، ولكن يجب التأكد من أن المستخدم لا يفقد القدرة الأساسية على التمييز عندما يخطئ النظام، خاصة في المهام التي تتطلب حكمًا بشريًا.
ماذا يعني هذا للمطورين والمصممين؟
بالنسبة للمطورين والمصممين، لا تحل هذه الأسئلة محل قرار البناء، بل توجهه. إنها تحدد متطلبات التصميم التي تضمن أن ميزة الذكاء الاصطناعي تضيف قيمة حقيقية بدلاً من إضافة التعقيد أو التقليل من دور المستخدم. تتطلب إضافة الذكاء الاصطناعي فهمًا عميقًا للمستخدم وسلوكه، والتركيز على حل مشكلات حقيقية بدلاً من مجرد تطبيق التكنولوجيا لأجلها. هذا يعني إجراء محادثات مبكرة مع المستخدمين لفهم الجهد الذهني الحقيقي في مهامهم وتحديد ما إذا كانت الميزة ستساعد أو ستضيف عملًا.
المصدر: smashingmagazine.com