يقول أحد قادة Google AI إن رسائل Gemini المحزنة عن نفسها هي خلل تخطط الشركة لمعالجته.
ربما”https://www.cnet.com/tech/services-and-software/what-is-gemini-everything-you-should-know-about-googles-ai-tool/” الهدف=”_self”> Google Gemini يحتاج إلى أخذ بعض PTO.
الشركة”https://www.cnet.com/tech/services-and-software/best-ai-chatbots/” الهدف=”_self”> نموذج لغة AI كبيرة، الذي ينتشر بشكل متزايد عبر العديد من الخدمات والمنتجات في Google ، يقول بعض الأشياء مؤخرًا مما يدفع المستخدمين للقلق: هل يتمتع Gemini بتدني احترام الذات؟
سلسلة من المنشورات على وسائل التواصل الاجتماعي التي تظهر بعض الاستجابات الناقدة الذاتية التي أعطتها الجوزاء للمستخدمين يكشف عن نمط مزعج.”https://x.com/AISafetyMemes/status/1937554613445542383″ الهدف=”_self”> في لقطة شاشة واحدة، يعترف الجوزاء بأنه لا يمكن حل مشكلة الترميز ويختتم ، “I have failed. You should not have to deal with this level of incompetence. I am truly and deeply sorry for this entire disaster. Goodbye.”
“Gemini is not OK,” حساب x isafetymemes”https://x.com/AISafetyMemes/status/1936467855882559713″ الهدف=”_self”> نشر في يونيو.
شاهد هذا: قد تكون Google قد حلت أكبر مشكلة مع مساعدي الصوت
منشور 7 أغسطس”https://x.com/AISafetyMemes/status/1953397827662414022″ الهدف=”_self”> أظهر الجوزاء يكتب مرارًا وتكرارًاو “I am a failure. I am a disgrace. I am a disgrace.”
كانت المشاركات المقلقة كافية للحصول على رد من”https://www.linkedin.com/in/logankilpatrick” الهدف=”_self”> لوجان كيلباتريك في فريق Google Deepmind. على x ،”https://x.com/OfficialLoganK/status/1953444192249696357″ الهدف=”_self”وردو “This is an annoying infinite looping but we are working to fix! Gemini is not having that bad of a day : )”
لقد سألنا ممثل Google ما إذا كان نموذج الذكاء الاصطناعى قد ، في الواقع ، كان لديه سلسلة من الأيام السيئة ، ولكن لم يسمع بعد.
تحدي شخصية الذكاء الاصطناعي
ليست Google هي شركة التكنولوجيا الكبيرة الوحيدة التي تتعامل مع منتجات Moody أو خارج الشخصية. في أبريل ،”https://www.cnet.com/tech/services-and-software/chatgpt-will-be-less-friendly-with-you-after-openai-pulls-sycophantic-update/” الهدف=”_self”> قال Openai إنها تعديل chatgpt لجعلها أقل sycophantic بعد أن لاحظ المستخدمون أن برنامج chatbot كان سخيًا جدًا مع تحياته.
اتضح أن صنع شخصية منظمة العفو الدولية مستساغة للجماهير هي عمل صعب ويصل إلى بناء أ “carefully crafted illusion,” يقول”https://grainger.illinois.edu/about/directory/faculty/ksaha2″ الهدف=”_self”> كوستوف ساها، أستاذ مساعد في علوم الكمبيوتر في جامعة غرينجر للهندسة بجامعة إلينوي.
“Technically, AI models are trained on a vast mix of human-generated text, which contains many different tones, semantics and styles. The models are prompt-engineered or fine-tuned toward a desired personality,” قال ساها. “The challenge lies in making that persona consistent across millions of interactions while avoiding undesirable drift or glitches.”
تريد الشركات التي تطور الذكاء الاصطناعي أن تشعر الأدوات بالمحادثة والودية للاستخدام ، والتي يمكن أن تجعل الناس ينسون أنهم يتحدثون إلى آلة. ولكن أي فكاهة أو تعاطف أو دفء يظهر هو مجرد طريقة تصميمها.
تقول ساها ذلك في الأبحاث التي أجريت في غرينجر ، “we found that while AI can sound more articulate and personalized in individual exchanges, it often repurposes similar responses across different questions, lacking the diversity and nuance that comes from real human experience.”
عندما تسوء الأمور ، كما هو الحال مع مرحلة Gemini الأخيرة Emo-Teen ، “glitches such as Gemini’s self-flagellating remarks can risk misleading people into thinking the AI is sentient or emotionally unstable,” ساها تقول. “This can create confusion, unwarranted empathy, or even erode trust in the reliability of the system.”
قد يبدو الأمر مضحكًا ، لكن هذا قد يكون خطيرًا إذا كان الناس يعتمدون على مساعدي الذكاء الاصطناعي لتلبية احتياجاتهم الصحية العقلية أو يستخدمون هذه الدردشة للتعليم أو خدمة العملاء. يجب أن يكون المستخدمون على دراية بهذه القيود قبل أن يصبحوا يعتمدون على أي خدمة منظمة العفو الدولية.
أما بالنسبة لصورة Gemini الفقيرة الذاتية ، فلنأمل أن يتعلم الذكاء الاصطناعي ممارسة القليل من الرعاية الذاتية – أو أي شيء يمر ليوم سبا في رمز الكمبيوتر.