الائتمان: VentureBeat مصنوع من Midjourney
يغير باحثو جوجل عالم الذكاء الاصطناعي من خلال تعليم الذكاء الاصطناعي كيفية قول “لا أعرف”. هذا النهج الجديد، اطلق عليها اسم أطمح، يمكن أن يحدث ثورة في كيفية تفاعلنا مع مساعدينا الرقميين من خلال تشجيعهم على التعبير عن الشك عندما لا يكونون متأكدين من الإجابة.
الابتكار الذي تم عرضه في مؤتمر EMNLP 2023، يتعلق الأمر كله بغرس شعور بالحذر في استجابات الذكاء الاصطناعي. ASPIRE، والتي تعني “التكيف مع التقييم الذاتي لتحسين التنبؤ الانتقائي في ماجستير إدارة الأعمال“، يعمل كمقياس ثقة مدمج للذكاء الاصطناعي، مما يساعده على تقييم إجاباته قبل تقديمها.
تخيل أنك تطلب من هاتفك الذكي نصيحة بشأن مشكلة صحية. فبدلاً من إعطاء إجابة محتملة خاطئة، قد يستجيب الذكاء الاصطناعي بـ “لست متأكدًا”، وذلك بفضل ASPIRE. يقوم هذا النظام بتدريب الذكاء الاصطناعي على تعيين درجة ثقة لإجاباته، مما يشير إلى مقدار الثقة التي يجب أن نضعها في استجابته.
الفريق الذي يقف وراء ذلك، بما في ذلك Jiefeng Chen وJinsung Yoon من Google، يقود التحول نحو اتخاذ قرارات رقمية أكثر موثوقية. ويجادلون بأنه من الأهمية بمكان بالنسبة للذكاء الاصطناعي، خاصة عندما يتعلق الأمر بالمعلومات المهمة، أن يعرف حدوده وينقلها بوضوح.
وقال تشين، الباحث في جامعة ويسكونسن ماديسون والمؤلف المشارك في الدراسة: “يمكن لطلاب ماجستير اللغة الآن فهم اللغة وتوليدها بمستويات غير مسبوقة، لكن استخدامها في التطبيقات عالية المخاطر محدود لأنهم يرتكبون أخطاء في بعض الأحيان بثقة عالية”. ورق.
تشير أبحاثهم إلى أنه حتى نماذج الذكاء الاصطناعي الأصغر حجمًا المجهزة بـ ASPIRE يمكنها أن تتفوق على النماذج الأكبر حجمًا التي تفتقر إلى هذه الميزة الاستبطانية. يخلق هذا النظام بشكل أساسي نظامًا ذكاءً اصطناعيًا أكثر حذرًا، ومن المفارقات، أكثر موثوقية يمكنه التعرف على الوقت الذي قد يكون فيه الإنسان أكثر ملاءمة للإجابة.
ومن خلال تعزيز الصدق بدلاً من التخمين، تهدف ASPIRE إلى جعل تفاعلات الذكاء الاصطناعي أكثر جدارة بالثقة. إنه يمهد الطريق لمستقبل حيث يمكن لمساعد الذكاء الاصطناعي الخاص بك أن يكون مستشارًا مدروسًا بدلاً من أوراكل يعرف كل شيء، وهو مستقبل حيث قول “لا أعرف” هو في الواقع علامة على الذكاء المتقدم.
مهمة VentureBeat هو أن تكون ساحة مدينة رقمية لصانعي القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف ملخصاتنا.