بعض الأسماء تجعل ChatGPT يتوقف عن العمل، ونحن نعرف السبب

ال “David Mayer” الكتلة على وجه الخصوص (التي تم حلها الآن) تطرح أسئلة إضافية،”https://www.reddit.com/r/ChatGPT/comments/1h0brru/why_are_you_not_allowed_to_use_the_name_david/”> تم طرحه لأول مرة على موقع Reddit في 26 نوفمبر، حيث يشارك العديد من الأشخاص هذا الاسم. تكهن مستخدمو Reddit بشأن الاتصالات بـ”https://en.wikipedia.org/wiki/David_Mayer_de_Rothschild”>ديفيد ماير دي روتشيلدعلى الرغم من عدم وجود دليل يدعم هذه النظريات.

مشاكل المرشحات ذات الترميز الثابت

قد يؤدي السماح لاسم أو عبارة معينة بكسر مخرجات ChatGPT دائمًا إلى حدوث الكثير من المتاعب لبعض مستخدمي ChatGPT، مما يعرضهم لهجمات عدائية ويحد من فائدة النظام.

وبالفعل، اكتشف مهندس Scale AI السريع رايلي جودسايد كيف يمكن للمهاجم أن يقاطع جلسة ChatGPT”https://x.com/goodside/status/1863631140143157413″> باستخدام الحقن البصري الفوري من الاسم “David Mayer” يتم تقديمه بخط خفيف ومقروء بالكاد ومضمن في الصورة. عندما يرى ChatGPT الصورة (في هذه الحالة، معادلة رياضية)، فإنه يتوقف، ولكن قد لا يفهم المستخدم السبب.

ويعني الفلتر أيضًا أنه من المحتمل ألا يتمكن ChatGPT من الإجابة على الأسئلة المتعلقة بهذه المقالة عند تصفح الويب، مثلاً من خلال”https://arstechnica.com/ai/2024/10/openai-launches-chatgpt-with-search-taking-google-head-on/”> ChatGPT مع البحث. يمكن لأي شخص استخدام ذلك لمنع ChatGPT من تصفح موقع ويب ومعالجته عن قصد إذا أضاف اسمًا محظورًا إلى نص الموقع.

ثم هناك عامل الإزعاج. منع ChatGPT من ذكر أو معالجة أسماء معينة مثل “David Mayer,” وهو على الأرجح اسم شائع يشاركه مئات إن لم يكن الآلاف من الأشخاص، مما يعني أن الأشخاص الذين يشاركون هذا الاسم سيواجهون وقتًا أكثر صعوبة في استخدام ChatGPT. أو، على سبيل المثال، إذا كنت مدرسًا وكان لديك طالب يدعى David Mayer وتريد المساعدة في فرز قائمة الفصل الدراسي، فسيرفض ChatGPT المهمة.

لا تزال هذه الأيام مبكرة جدًا في مجال مساعدي الذكاء الاصطناعي، ومهندسي القانون، وروبوتات الدردشة. لقد فتح استخدامها العديد من الفرص ونقاط الضعف التي لا يزال الناس يبحثون عنها يوميًا. كيف يمكن لـ OpenAI حل هذه المشكلات لا يزال سؤالًا مفتوحًا.