برامج الذكاء الاصطناعيلا يفعل ذلك دائمًا ما يريده القائمون على بناءه أن يفعل – وهي قضية قد تكون خطيرة والتي استهلكت بعضًا من أكبر الشركات العاملة في مجال التكنولوجيا.
الشركات الكبرى مثلOpenAIوشركة Alphabet Inc جوجل بشكل متزايدتوجيه العمالوالمال والقوة الحاسوبية تجاه المشكلة. وقد عبرت شركة Anthropic، وهي شركة منافسة لـ OpenAI، عن ذلكفي القلبلتطويرها لـ Claude، وهو منتج تصفه بأنه نوع أكثر أمانًا من برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي.
ابتداء من هذا الشهر، تم استدعاء شركة جديدةمختبرات سينثيستهدف أيضًا هذه القضية. تأسست الشركة على يد مجموعة من الأسماء البارزة في صناعة الذكاء الاصطناعي، وقد خرجت الشركة من التخفي هذا الأسبوع، وقد جمعت تمويلًا أوليًا من مايكروسوفت صندوق رأس المال الاستثماري التابع لشركة M12، ومشروع First Spark Ventures التابع لإريك شميدت. تركز Synth Labs في المقام الأول على بناء البرمجيات، وبعضها مفتوح المصدر، لمساعدة مجموعة من الشركات على ضمان أن أنظمة الذكاء الاصطناعي الخاصة بها تعمل وفقًا لنواياها. إنها تضع نفسها كشركة تعمل بشفافية وتعاون.
تمثل المحاذاة، كما تسمى أحيانًا، تحديًا تقنيًا لتطبيقات الذكاء الاصطناعي مثل روبوتات الدردشة المبنية على نماذج لغوية كبيرة، والتي يتم تدريبها عادةً على مجموعات ضخمة من بيانات الإنترنت. وتتعقد الجهود بسبب حقيقة أن أخلاقيات الناس وقيمهم – فضلا عن أفكارهم حول ما ينبغي وما لا ينبغي السماح للذكاء الاصطناعي بفعله – تختلف. تهدف منتجات Synth Labs إلى المساعدة في توجيه وتخصيص نماذج اللغات الكبيرة، وخاصة النماذج نفسهامفتوح المصدر.
بدأت الشركة كمشروع داخل مختبر أبحاث الذكاء الاصطناعي غير الربحي EleutherAI، الذي عمل عليه اثنان من المؤسسين الثلاثة – لويس كاستريكاتو وناثان ليل – بالإضافة إلى مستشار Synth Labs والمديرة التنفيذية لشركة EleutherAI ستيلا بيدرمان. فرانسيس ديسوزا، الرئيس التنفيذي السابق لشركة التكنولوجيا الحيوية إلومينا Inc.، هو أيضًا مؤسس. ورفضت شركة Synth Labs الإفصاح عن حجم الأموال التي جمعتها حتى الآن.
وقال كاستريكاتو إن الشركة الناشئة قامت خلال الأشهر القليلة الماضية ببناء أدوات يمكنها بسهولة تقييم نماذج لغوية كبيرة حول موضوعات معقدة. وقال إن الهدف هو إضفاء الطابع الديمقراطي على الوصول إلى أدوات سهلة الاستخدام يمكنها تقييم نماذج الذكاء الاصطناعي ومواءمتها تلقائيًا.
حديثاورقة ابحاثإن ما شارك كاستريكاتو وليل وبيدرمان في تأليفه يعطي فكرة عن النهج الذي تتبعه الشركة: استخدم المؤلفون استجابات للمطالبات، والتي تم إنشاؤها بواسطة نماذج GPT-4 من OpenAI ونماذج Stable Beluga 2 AI من Stable AI، لإنشاء مجموعة بيانات. تم بعد ذلك استخدام مجموعة البيانات هذه كجزء من عملية آلية لتوجيه برنامج الدردشة الآلي لتجنب الحديث عن موضوع واحد والتحدث بدلاً من ذلك عن موضوع آخر.
قال ليل: “إن الطريقة التي نفكر بها في تصميم بعض هذه الأدوات المبكرة تدور حول إعطائك الفرصة لتقرر ما يعنيه التوافق بالنسبة لشركتك أو لتفضيلاتك الشخصية”.
اشترك في النشرة الإخبارية “عين على الذكاء الاصطناعي” لتبقى على اطلاع على كيفية تشكيل الذكاء الاصطناعي لمستقبل الأعمال. اشتراك مجانا.