يحتاج مطورو النماذج الأساسية للذكاء الاصطناعي (AI) إلى أن يكونوا أكثر شفافية فيما يتعلق بكيفية تدريب نماذجهم ونماذجهمالتأثير على المجتمع، يقول تقرير جديد من جامعة ستانفورد.
من خلال الذكاء الاصطناعي المرتكز على الإنسان (HAI) في جامعة ستانفورد، تقول الجامعة التي يوجد مقرها في كاليفورنيا إن شركات الذكاء الاصطناعي البارزة هذه أصبحت أقل شفافية حيث أصبحت نماذجها أكثر قوة.
“من الواضح على مدى السنوات الثلاث الماضية أن الشفافية آخذة في الانخفاض في حين أن القدرات تتخطى السقف. وقال بيرسي ليانج، الأستاذ بجامعة ستانفورد: “إننا نعتبر هذا الأمر مشكلة كبيرة لأننا رأينا في مجالات أخرى مثل وسائل التواصل الاجتماعي أنه عندما تنخفض الشفافية، يمكن أن تحدث أشياء سيئة نتيجة لذلك”.
لقد أصبح مطورو نماذج المؤسسات أقل شفافية، مما يجعل من الصعب على الباحثين وصناع السياسات وعامة الناس فهم كيفية عمل هذه النماذج، فضلا عن حدودها وتأثيرها. يقوم العلماء بتقييم شفافية 10 مطورين. https://t.co/AkxI27Jhm0 pic.twitter.com/h09p8CZD3b
– ستانفورد هاي (@ StanfordHAI) 18 أكتوبر 2023
بينما يستمر المنظمون والباحثون والمستخدمون في المطالبةالشفافيةلقد وقف مطورو نماذج الذكاء الاصطناعي بحزم ضد هذه المطالب. عندما تكونأطلقتGPT-4 في مارس، قالت OpenAI إنها ستبقى ملتزمة الصمت بشأن كيفية عملها.
“بالنظر إلى المشهد التنافسي والتداعيات الأمنية للنماذج واسعة النطاق مثل GPT-4، لا يحتوي هذا التقرير على مزيد من التفاصيل حول البنية (بما في ذلك حجم النموذج)، أو الأجهزة، أو حوسبة التدريب، أو إنشاء مجموعة البيانات، أو طريقة التدريب، أو ما شابه ذلك.” قيل فيورق ابيض.
يقول فريق ستانفورد إن هذه الطبيعة المبهمة لجميع نماذج أسس الذكاء الاصطناعي البارزة تؤدي إلى عدم وعي المستهلكين بقيودهم. كما أن المنظمين غير قادرين على الصياغةسياسات ذات مغزىللقطاع.
كما أعلن الباحثون، بالشراكة مع خبراء من معهد ماساتشوستس للتكنولوجيا (MIT) وبرينستون، عن إطلاق المشروع.مؤشر الشفافية لنموذج الأساس. يقوم بتقييم 100 جانب من شفافية نموذج الذكاء الاصطناعي ويصنف أبرز اللاعبين في هذا المجال.
بينما حصلوا جميعًا على تقييمات سيئة، ميتا (ناسداك: ميتا)لامااحتلت المرتبة الأولى بنسبة 54% مع تقييمات عالية في الوصول والتوزيع والأساليب. واحتل برنامج GPT-4 من شركة OpenAI، والذي يشغل النسخة المدفوعة من برنامج Chatbot الخاص بها، المرتبة الثالثة بنسبة 48%. أمازون (ناسداك:أمزن) الأقل شهرة، احتل Titan Text المرتبة الأدنى بنسبة 12%.
“ما نحاول تحقيقه من خلال المؤشر هو جعل النماذج أكثر شفافية وتقسيم هذا المفهوم غير المتبلور إلى أمور أكثر واقعية يمكن قياسها”، كما علق ريشي بوماساني، أحد الباحثين في جامعة ستانفورد الذين قاموا بإعداد التقرير.
شاهد: الذكاء الاصطناعي ليس منتجًا حقًا، بل هو اصطناعي
جديد على blockchain؟ تحقق من CoinGeek بلوكتشين للمبتدئين القسم، دليل الموارد النهائي لمعرفة المزيد حول تقنية blockchain.