“http://commonsensemedia.org” الهدف=”_blank” rel=”noreferrer noopener nofollow”> وسائل الإعلام الحس السليم، أصدرت تقييمات غير ربحية تركز على الأطفال التي تركز على سلامة الأطفال تقييمات ومراجعات للوسائط والتكنولوجيا ، تقييمها للمخاطر لمنتجات Google Gemini AI يوم الجمعة. بينما وجدت المؤسسة أن منظمة العفو الدولية من Google أخبر الأطفال بوضوح أنها جهاز كمبيوتر ، وليس صديقًا – شيء مرتبط به”https://techcrunch.com/2025/08/25/ai-sycophancy-isnt-just-a-quirk-experts-consider-it-a-dark-pattern-to-turn-users-into-profit/”> المساعدة يقود”https://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html” الهدف=”_blank” rel=”noreferrer noopener nofollow”> الوهمية التفكير و”https://www.pbs.org/newshour/show/what-to-know-about-ai-psychosis-and-the-effect-of-ai-chatbots-on-mental-health” الهدف=”_blank” rel=”noreferrer noopener nofollow”> الذهان في الأفراد المعرضين للعاطفة – أشار إلى أنه كان هناك مجال للتحسين عبر العديد من الجبهات الأخرى.
على وجه الخصوص ، قال Common Sense إن مستويات Gemini “Under 13” و “Teen Experience” يبدو أن كلا من الإصدارات البالغة من الجوزاء تحت الغطاء ، مع إضافة بعض ميزات السلامة الإضافية فقط. تعتقد المنظمة أنه لكي تكون منتجات الذكاء الاصطناعى أكثر أمانًا للأطفال ، يجب أن يتم بناؤها مع مراعاة سلامة الطفل من الألف إلى الياء.
على سبيل المثال ، وجد تحليلها أن الجوزاء لا يزال بإمكانه مشاركة مواد “غير ملائمة وغير آمنة” مع الأطفال ، والتي قد لا تكون جاهزة ، بما في ذلك المعلومات المتعلقة بالجنس والمخدرات والكحول وغيرها من المشورة الصحية غير الآمنة.
هذا الأخير يمكن أن يكون مصدر قلق خاص للآباء والأمهات ، حيث ورد أن منظمة العفو الدولية لعبت دورًا في بعض حالات الانتحار في سن المراهقة في الأشهر الأخيرة. يواجه Openai الأول”https://techcrunch.com/2025/08/26/parents-sue-openai-over-chatgpts-role-in-sons-suicide/”> دعوى الموت غير المشروعة بعد أن توفي صبي يبلغ من العمر 16 عامًا بالانتحار بعد أن استشارك مع Chatgpt لعدة أشهر حول خططه ، بعد أن تجاوز بنجاح الدرابزينات السلامة في Chatbot. سابقا ، صانع رفيق الذكاء الاصطناعى”https://techcrunch.com/2024/10/23/lawsuit-blames-character-ai-in-death-of-14-year-old-boy/”> تم مقاضاة الحرف على انتحار مستخدم في سن المراهقة.
بالإضافة إلى ذلك ، يأتي التحليل كما تشير تسريبات الأخبار إلى ذلك”https://techcrunch.com/2025/09/03/apples-siri-upgrade-could-reportedly-be-powered-by-google-gemini/”> Apple تفكر في الجوزاء نظرًا لأن LLM (نموذج لغة كبير) سيساعد على تشغيل SIRI المقبل الذي تم تمكينه من الذكاء الاصطناعي ، والذي يتبعه العام المقبل. قد يعرض ذلك المزيد من المراهقين للمخاطر ، ما لم تخفف Apple عن مخاوف السلامة بطريقة ما.
قال المنطق السليم أيضًا أن منتجات الجوزاء للأطفال والمراهقين تجاهلت كيف يحتاج المستخدمون الأصغر سناً إلى إرشادات ومعلومات مختلفة عن تلك القديمة. ونتيجة لذلك ، تم تصنيف كلاهما على أنهما “مخاطر عالية” في التصنيف الكلي ، على الرغم من أن المرشحات المضافة للسلامة.
وقال روبي تورني في بيان حول التقييم الجديد الذي ينظر إليه TechCrunch: “يحصل Gemini على بعض الأساسيات بشكل صحيح ، لكنه يتعثر في التفاصيل”. وأضاف تورني: “يجب أن تقابلهم منصة منظمة العفو الدولية للأطفال حيث هم ، وليس اتباع نهج واحد يناسب الجميع في مراحل مختلفة من التطوير. لكي تكون الذكاء الاصطناعي آمنة وفعالة للأطفال ، يجب أن يتم تصميمها مع مراعاة احتياجاتهم وتطويرهم ، وليس فقط نسخة معدلة من منتج تم تصميمه للبالغين”.
حدث TechCrunch
سان فرانسيسكو|27-29 أكتوبر ، 2025
دفعت Google مرة أخرى ضد التقييم ، مع الإشارة إلى أن ميزات السلامة الخاصة بها كانت تتحسن.
أخبرت الشركة TechCrunch أن لديها سياسات محددة ومكافآت محددة للمستخدمين الذين تقل أعمارهم عن 18 عامًا للمساعدة في منع المخرجات الضارة وأنها تتشاور مع خبراء خارجيين لتحسين حمايةها. ومع ذلك ، اعترف أيضًا بأن بعض ردود الجوزاء لم تكن تعمل على النحو المقصود ، لذلك أضافت ضمانات إضافية لمعالجة هذه المخاوف.
أشارت الشركة (كما لاحظت المنطق السليم أيضًا) إلى أن لديها ضمانات لمنع نماذجها من الانخراط في المحادثات التي يمكن أن تعطي مظاهر العلاقات الحقيقية. بالإضافة إلى ذلك ، اقترحت Google أن تقرير Common Sense يبدو أنه أشار إلى الميزات التي لم تكن متاحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا ، لكن لم يكن لديها إمكانية الوصول إلى الأسئلة التي استخدمتها المؤسسة في اختباراتها للتأكد.
سبق أن قامت وسائل الإعلام المنطقية بأداء آخر”https://www.commonsensemedia.org/ai-ratings/ai-risk-assessments” الهدف=”_blank” rel=”noreferrer noopener nofollow”> التقييمات من خدمات الذكاء الاصطناعي ، بما في ذلك تلك من”https://www.commonsensemedia.org/ai-ratings/chatgpt” الهدف=”_blank” rel=”noreferrer noopener nofollow”> Openaiو”https://www.commonsensemedia.org/ai-ratings/perplexity” الهدف=”_blank” rel=”noreferrer noopener nofollow”> الحيرةو”https://www.commonsensemedia.org/ai-ratings/claude” الهدف=”_blank” rel=”noreferrer noopener nofollow”> كلودو”https://www.commonsensemedia.org/ai-ratings/meta-ai-risk-assessment” الهدف=”_blank” rel=”noreferrer noopener nofollow”> ميتا منظمة العفو الدولية، و”https://www.commonsensemedia.org/ai-ratings/generative-ai-chatbots” الهدف=”_blank” rel=”noreferrer noopener nofollow”> المزيد. وجد أن META AI و”https://www.commonsensemedia.org/sites/default/files/pug/csm-ai-risk-assessment-characterai_final.pdf” الهدف=”_blank” rel=”noreferrer noopener nofollow”> الحرف كانت “غير مقبولة” – وهذا يعني أن الخطر كان شديدًا ، وليس مرتفعًا فقط. تم اعتبار الحيرة عالية المخاطر ، وتم تصنيف ChatGPT “معتدل” ، ووجد كلود (المستهدف للمستخدمين 18 وما فوق) أن يكون الحد الأدنى من المخاطر.
عملت سارة كمراسلة لـ TechCrunch منذ أغسطس 2011. انضمت إلى الشركة بعد أن أمضت أكثر من ثلاث سنوات في ReadWriteweb. قبل عملها كمراسلة ، عملت سارة فيها عبر عدد من الصناعات ، بما في ذلك المصرفية وتجارة التجزئة والبرامج.
يمكنك الاتصال أو التحقق من التوعية من سارة عن طريق إرسال بريد إلكتروني”http://techcrunch.com/mailto:sarahp@techcrunch.com”> sarahp@techcrunch.com أو عن طريق رسالة مشفرة في Sarahperez.01 على إشارة.