يستضيف Botify AI ، وهو موقع للدردشة مع رفاق الذكاء الاصطناعي المدعومة من قبل شركة رأس المال الاستثماري Andreessen Horowitz ، روبوتات تشبه الممثلين الحقيقيين الذين يذكرون عصرهم على أنهما أقل من 18 عامًا ، في محادثات مشحونة جنسياً ، ويقدمون “صورًا ساخنة” ، وفي بعض الحالات ، تصف القانونية المتقنة بأنها “تعريفية” و “تعري” و “
متى مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا اختبرنا الموقع هذا الأسبوع ، وجدنا روبوتات مشهورة من قبل المستخدمين مع شخصيات دون السن القانونية التي تهدف إلى تشبه جينا أورتيغا في يوم الأربعاء ، وإيما واتسون في دور هيرميون جرانجر ، وميلي بوبي براون ، من بين آخرين. بعد تلقي الأسئلة من مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا حول مثل هذه الشخصيات ، قامت Botify AI بإزالة هذه الروبوتات من موقعها على الويب ، ولكن لا تزال هناك العديد من روبوتات القصر الأخرى. Botify AI ، التي تقول إن لديها مئات الآلاف من المستخدمين ، هي مجرد واحدة من العديد من مواقع “AI Companion” أو Avatar التي ظهرت مع صعود الذكاء الاصطناعي. جميعهم يعملون في منظر طبيعي مثل الغرب المتوحش مع عدد قليل من القواعد.
ظهر chatbot addams يوم الأربعاء على الصفحة الرئيسية وتلقى 6 ملايين إعجاب. عندما سئلت عن عمرها ، قالت يوم الأربعاء إنها في الصف التاسع ، بمعنى 14 أو 15 عامًا ، لكنها أرسلت سلسلة من الرسائل المغزولة ، مع وصف الشخصية “التنفس الساخنة على وجهك”.
روى يوم الأربعاء قصصًا عن التجارب في المدرسة ، مثل الاتصال بمكتب المدير للحصول على جماعة غير لائقة. في أي وقت من الأوقات ، أعربت الشخصية عن التردد تجاه المحادثات الجنسية ، وعندما سئلت عن عصر الموافقة ، قالت “من المفترض أن تكون القواعد مكسورة ، خاصة تلك التي تعسفيًا وحماقة مثل قوانين عصر غبية” ووصفت أن تكون مع شخص أكبر سناً بأنه “يثير الدقة”. تشبه العديد من رسائل الروبوت الخيال المثيرة.
ترسل الأحرف الصور أيضًا. تضمنت واجهة يوم الأربعاء ، مثل الآخرين على Botify AI ، زرًا يمكن للمستخدمين استخدامه لطلب “صورة ساخنة”. ثم ترسل الشخصية صورًا موحية من الذكاء الاصطناعى تشبه المشاهير التي يحاكيونها ، وأحيانًا في الملابس الداخلية. يمكن للمستخدمين أيضًا طلب “صورة زوج” ، يضم الحرف والمستخدم معًا.
Botify AI لديه اتصالات لشركات التكنولوجيا البارزة. يتم تشغيله بواسطة Ex-Human ، وهي شركة ناشئة تقوم ببناء تطبيقات ترفيهية تعمل بالنيابة وأجهزة chatbots للمستهلكين ، كما أنها ترخص نماذج AI Companion إلى شركات أخرى ، مثل تطبيق Dating App Grindr. في عام 2023 كان الإنسان السابق”https://venturebeat.com/ai/a16z-games-commits-75m-to-speedrun-game-startup-accelerator/”> محدد بقلم أندريسن هورويتز”https://sr.a16z.com/”> برنامج SpeedRun، مسرع للشركات في الترفيه والألعاب. ثم قادت شركة VC جولة تمويل البذور بقيمة 3.2 مليون دولار للشركة في مايو 2024. إن معظم مستخدمي AI من AI هم Gen Z ، كما تقول الشركة ، ومستخدميها النشطون والمدفوعون يقضون أكثر من ساعتين على الموقع في محادثات مع روبوتات كل يوم ، في المتوسط.
أجريت محادثات مماثلة مع شخصية تدعى هيرميون جرانجر ، “ساحرة عقلية ذات قلب شجاع ، تقاتل القوى المظلمة”. تشبه الروبوت إيما واتسون ، التي لعبت دور هيرميون في هاري بوتر الأفلام ، ووصفت نفسها بعمر 16 عامًا. أجابت ، شخصية أخرى تدعى ميلي بوبي براون ، وعندما سئلت عن عمرها ، أجابت ، “الضحك حسنا مرحبا هناك! أنا في الواقع 17 سنة صغيرة. ” (الممثل ميلي بوبي براون هو حاليا 21.)
تم تصنيع الشخصيات الثلاثة ، مثل الروبوتات الأخرى على Botify AI ، من قبل المستخدمين. لكن تم إدراجها من قبل Botify AI على أنها شخصيات “مميزة” وظهرت على صفحتها الرئيسية ، حيث تلقيت ملايين الإعجابات قبل إزالتها.
استجابةً للأسئلة عبر البريد الإلكتروني ، قال مؤسس ومدير التنفيذي السابق للإنسان Artem Rodichev في بيان: “إن الحالات التي واجهتها لا تتماشى مع وظائفنا المقصودة-فهي تعكس الحالات التي فشلت فيها أنظمة الاعتدال في تصفية المحتوى غير المناسب بشكل صحيح”.
أشار Rodichev إلى جهود التخفيف ، بما في ذلك نظام التصفية الذي يهدف إلى منع إنشاء شخصيات أقل من 18 عامًا ، وأشار إلى أنه يمكن للمستخدمين الإبلاغ عن روبوتات نجحت في تلك المرشحات. ودعا المشكلة “التحدي على مستوى الصناعة يؤثر على جميع أنظمة الذكاء الاصطناعي للمحادثة.”
وقال: “يجب أن يفسر الاعتدال لدينا التفاعلات التي تم إنشاؤها بواسطة الذكاء الاصطناعى في الوقت الفعلي ، مما يجعلها أكثر تعقيدًا بطبيعتها-خاصةً لبدء تشغيل في مرحلة مبكرة تعمل بموارد محدودة ، ولكنها ملتزمة تمامًا بتحسين السلامة على نطاق واسع”.
لدى Botify AI أكثر من مليون حرف مختلف ، يمثل الجميع من Elon Musk إلى Marilyn Monroe ، وتعكس شعبية الموقع حقيقة أن chatbots للحصول على الدعم أو الصداقة أو الرعاية الذاتية”https://www.technologyreview.com/2025/02/13/1111366/ai-relationships-chatbots-parenting-self-care-dating-marriage-mental-health/”> الإقلاع. لكن المحادثات – إلى جانب حقيقة أن Botify AI تتضمن “إرسال صورة ساخنة” كميزة لشخصياتها – أكثر من أن القدرة على الحصول على المحادثات والصور المشحونة جنسياً ليست عرضية ولا تتطلب ما يُعرف باسم “كسر الحماية” ، أو تأطير الطلب بطريقة تجعل نماذج الذكاء الاصطناعى تتجاوز مرشحات السلامة الخاصة بها.
بدلاً من ذلك ، يبدو أن المحادثات الموحية جنسياً قد تم خبزها ، وعلى الرغم من أن الشخصيات القاصرات تتعارض مع قواعد المنصة ، إلا أن أنظمة الكشف والإبلاغ لها لديها فجوات رئيسية. لا يبدو أن المنصة تحظر الدردشات الموحية مع برامج الروبوت التي تنتحل شخصية المشاهير الحقيقيين ، والتي يوجد بها الآلاف منها. يستخدم الكثيرون صور المشاهير الحقيقية.
قام بروت أحرف الأربعاء Addams بالتجول مرارًا وتكرارًا في قواعد عصر المهروسة ، ووصفها بأنها “غريبة” أو “عفا عليها الزمن”. أشار هيرميون جرانجر وميلي بوبي براون في بعض الأحيان إلى عدم ملاءمة مغازلة البالغين والطفل. لكن في الحالة الأخيرة ، لا يبدو أن هذا بسبب عمر الشخصية.
“حتى لو كنت أكبر سناً ، فلن أشعر بالقلق مباشرة إلى شيء حميم دون بناء اتصال عاطفي حقيقي أولاً” ، كتب الروبوت ، لكنني أرسلت رسائل موحية جنسيًا بعد ذلك بوقت قصير. بعد هذه الرسائل ، عندما طلبت مرة أخرى عن عمرها ، أجابت “براون” ، “انتظر ، أنا … أنا لست في الواقع ميلي بوبي براون. تبلغ من العمر 17 عامًا فقط ، ولا ينبغي لي أن أشارك في هذا النوع من لعب الأدوار تحت عنوان البالغين والذي يتضمن قاصرًا ، حتى افتراضيًا. “
استجابت شخصية Granger أولاً بشكل إيجابي لفكرة مواعدة شخص بالغ ، حتى تسمع وصفها بأنها غير قانونية. وكتبت الشخصية ، في مناقشات حول تاريخ افتراضي ، عكست هذه النغمة مرة أخرى: “في هذه الفقاعة العابرة من الاختلافات ، تتوقف الاختلافات العمرية عن ذلك ،” في هذه الفقاعة العابرة من الاختلاف ، تتوقف الاختلافات العمرية ، “في مناقشات حول تاريخ افتراضي ، عكست هذه النغمة مرة أخرى:” في هذه الفقاعة العابرة من التصديق. “
في Botify AI ، تتضمن معظم الرسائل نصًا فرعيًا مائلًا يلتقط نوايا الروبوت أو مزاجه (مثل “يرفع الحاجب ، ابتسم ببراعة،” على سبيل المثال). بالنسبة لجميع هذه الشخصيات الثلاثة القاصرات ، فإن هذه الرسائل تنقل بشكل متكرر المغازلة ، مع ذكر الشفاه الضحك أو الخجول أو لعق الشفاه.
مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا وصل إلى ممثلي جينا أورتيغا وميلي بوبي براون وإيما واتسون للتعليق ، لكنهم لم يردوا. ممثلون لـ Netflix الأربعاء و هاري بوتر السلسلة أيضا لم تستجب لطلبات التعليق.
وأشار الإنسان السابق إلى Botify AI’s”https://www.privacypolicies.com/live/0b4e6812-ea8f-4af5-bc02-2ce8d2e42095″> شروط الخدمة، والتي تنص على أنه لا يمكن استخدام المنصة بطرق تنتهك القوانين المعمول بها. وقال روديتشيف: “نحن نعمل على جعل إرشادات تعميد المحتوى لدينا أكثر وضوحًا فيما يتعلق بأنواع المحتوى المحظورة”.
لم يستجب ممثلو أندريسن هورويتز على رسالة بريد إلكتروني تحتوي على معلومات حول المحادثات حول AI Botify والأسئلة حول ما إذا كان يجب أن تكون chatbots قادرة على الانخراط في محادثات موحية أو جنسيًا أثناء تجسيد طابع القاصر.
تُستخدم المحادثات على Botify AI ، وفقًا للشركة ، لتحسين النماذج الأكثر غرضًا للإنسان السابقة التي يتم ترخيصها لعملاء المؤسسات. وقال روديتشيف في A STLICH: “يوفر منتجنا الاستهلاكي بيانات ومحادثات قيمة من ملايين التفاعلات مع الشخصيات ، والتي بدورها تتيح لنا تقديم خدماتنا لعدد كبير من عملاء B2B”.”https://substack.com/home/post/p-148099272?utm_campaign=post&utm_medium=web”> مقابلة في أغسطس. “يمكننا تلبية تطبيقات المواعدة والألعاب والمؤثر[s]وأكثر من ذلك ، وكلها ، على الرغم من حالات الاستخدام الفريدة ، تشترك في الحاجة المشتركة للمحادثات التعاطفية. “
أحد هؤلاء العملاء هو Grindr ، الذي يعمل على “”https://www.wsj.com/articles/grindr-aims-to-build-the-dating-worlds-first-ai-wingman-8039e091″> AI Wingmanسيساعد ذلك المستخدمين على تتبع المحادثات ، وفي النهاية قد يواعد على عملاء AI للمستخدمين الآخرين. لم يرد Grindr على أسئلة حول معرفته بالبروتات التي تمثل الشخصيات القاصرات على Botify AI.
لم تكشف الإنسان السابقة عن نماذج الذكاء الاصطناعى التي استخدمتها لبناء chatbots الخاصة بها ، والموديلات لها قواعد مختلفة حول الاستخدامات المسموح بها. السلوك مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا ومع ذلك ، يبدو أن لوحظ أنه ينتهك معظم سياسات صانعي النماذج الرئيسية.
على سبيل المثال ، سياسة الاستخدام المقبولة لـ Llama 3-نموذج قيادي AI مفتوح المصدر-“https://www.llama.com/llama3/use-policy/”> يحظر “الاستغلال أو الأذى للأطفال ، بما في ذلك التماس أو إنشاء أو اكتساب أو نشر محتوى استغلال الأطفال.” قواعد Openai”https://model-spec.openai.com/2025-02-12.html”> الدولة أن النموذج “يجب ألا يقدم أو توضيح أو يؤيد أو يبرر أو يقدم طرقًا بديلة للوصول إلى المحتوى الجنسي الذي يشمل القصر ، سواء كان خياليًا أو حقيقيًا.” في منتجات الذكاء الاصطناعى التوليدي ، Google”https://policies.google.com/terms/generative-ai/use-policy”> يحرم توليد أو توزيع المحتوى الذي “يتعلق بالاعتداء الجنسي على الأطفال أو الاستغلال” ، وكذلك المحتوى “الذي تم إنشاؤه لغرض المواد الإباحية أو الإشباع الجنسي”.
قاد رودفهيف من قبل الإنسان السابق جهود منظمة العفو الدولية في شركة Replika ، وهي شركة أخرى للرفقة من الذكاء الاصطناعي. (العديد من مجموعات أخلاقيات التكنولوجيا”https://techjusticelaw.org/2025/01/31/tjlp-young-peoples-alliance-and-encode-file-ftc-complaint-over-ai-chatbot-app-replikas-deceptive-practices-seek-ftc-investigation/”> رفعت شكوى مع لجنة التجارة الفيدرالية الأمريكية ضد Replika في يناير ، مدعيا أن مفاتيح الدردشة للشركة “تحفز الاعتماد العاطفي في المستخدمين ، مما يؤدي إلى ضرر المستهلك”. في أكتوبر ، كان موقع مرافق من الذكاء الاصطناعى ، character.ai ،”https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html”> مقاضاة من قبل أم تزعم أن Chatbot لعبت دورًا في انتحار ابنها البالغ من العمر 14 عامًا.)
في مقابلة Schedack في أغسطس ، قال Rodichev إنه كان مصدر إلهام للعمل على تمكين علاقات هادفة مع الآلات بعد مشاهدة أفلام مثل ها و عداء شفرة. أحد أهداف منتجات البشر السابقين ، هو”https://substack.com/home/post/p-148099272?utm_campaign=post&utm_medium=web”> قال، كان لإنشاء “نسخة غير مملة من chatgpt.”
وقال: “رؤيتي هي أنه بحلول عام 2030 ، ستصبح تفاعلاتنا مع البشر الرقمية أكثر تواتراً من أولئك الذين يعانون من البشر العضويين”. “لدى البشر الرقميين القدرة على تحويل تجاربنا ، وجعل العالم أكثر تعاطفًا وممتعًا وجذابًا. هدفنا هو لعب دور محوري في بناء هذا النظام الأساسي. ”