تقوم Google بإزالة الملخصات الصحية الخاصة بالذكاء الاصطناعي بعد أن وجد التحقيق عيوبًا خطيرة

لماذا تنتج AI Overviews أخطاء

تنبع المشاكل المتكررة في AI Overviews من خلل في التصميم في كيفية عمل النظام. كما نحن”https://arstechnica.com/information-technology/2024/05/googles-ai-overview-is-flawed-by-design-and-a-new-company-blog-post-hints-at-why/”> ذكرت في مايو 2024، أنشأت Google ميزة AI Overviews لعرض المعلومات المدعومة بأهم نتائج الويب من نظام تصنيف الصفحات الخاص بها. وصممت الشركة الميزة بهذه الطريقة بناءً على افتراض أن الصفحات ذات التصنيف العالي تحتوي على معلومات دقيقة.

ومع ذلك، فقد عانت خوارزمية ترتيب الصفحات في Google منذ فترة طويلة مع محتوى ألعاب تحسين محركات البحث (SEO) والبريد العشوائي. ويقوم النظام الآن بتغذية نموذج الذكاء الاصطناعي الخاص به بهذه النتائج غير الموثوقة، والذي يقوم بعد ذلك بتلخيصها بنبرة موثوقة يمكن أن تضلل المستخدمين. حتى عندما يستمد الذكاء الاصطناعي من مصادر دقيقة، فإن نموذج اللغة لا يزال قادرًا على ذلك”https://arstechnica.com/information-technology/2023/04/why-ai-chatbots-are-the-ultimate-bs-machines-and-how-people-hope-to-fix-them/”> استخلاص استنتاجات غير صحيحة من البيانات، وإنتاج ملخصات معيبة لمعلومات موثوقة.

لا توفر التكنولوجيا بطبيعتها دقة واقعية. وبدلاً من ذلك، فهو يعكس أي معلومات غير دقيقة موجودة في مواقع الويب التي تصنفها خوارزمية Google في مرتبة عالية، حيث تقدم الحقائق بسلطة تجعل الأخطاء تبدو جديرة بالثقة.

وتظل الأمثلة الأخرى نشطة

وجدت صحيفة The Guardian أن كتابة اختلافات طفيفة في الاستعلامات الأصلية في Google، مثل “النطاق المرجعي لاختبار lft” أو “النطاق المرجعي لاختبار lft”، لا يزال يدفع إلى تقديم نظرة عامة على الذكاء الاصطناعي. قال هيبديتش إن هذا كان مصدر قلق كبير وأن نظرة عامة على الذكاء الاصطناعي تقدم قائمة من الاختبارات بالخط العريض، مما يجعل من السهل جدًا على القراء أن يفوتوا أن هذه الأرقام قد لا تكون حتى هي الأرقام الصحيحة لاختبارهم.

لا تزال “نظرات عامة على الذكاء الاصطناعي” تظهر في الأمثلة الأخرى التي أبرزتها صحيفة The Guardian في الأصل لـ Google. وعندما سئلت جوجل عن سبب عدم إزالة هذه النظرات العامة للذكاء الاصطناعي، قالت إنها مرتبطة بمصادر معروفة وذات سمعة طيبة وأبلغت الأشخاص عندما يكون من المهم طلب مشورة الخبراء.

قالت Google إن نظرة عامة على الذكاء الاصطناعي تظهر فقط للاستعلامات التي تتمتع بثقة عالية في جودة الردود. وأضافت أن الشركة تقوم باستمرار بقياس ومراجعة جودة ملخصاتها عبر العديد من فئات المعلومات المختلفة.

ليس هذا هو الجدل الأول حول “نظرات عامة على الذكاء الاصطناعي”. الميزة سبقت”https://arstechnica.com/information-technology/2024/05/googles-ai-overview-can-give-false-misleading-and-dangerous-answers/”>قال الناس لوضع الغراء على البيتزا وأكل الصخور. لقد ثبت أنه لا يحظى بشعبية كافية لدى المستخدمين”https://arstechnica.com/google/2025/01/just-give-me-the-fing-links-cursing-disables-googles-ai-overviews/”> تم اكتشافه أن إدراج كلمات بذيئة في استعلامات البحث يؤدي إلى تعطيل ميزة AI Overviews بالكامل.