ترقيات AWS Bedrock لإضافة نموذج التدريس وكاشف الهلوسة

الائتمان: الصورة التي تم إنشاؤها بواسطة VentureBeat مع Stable Diffusion 3.5

أوس أعلنت شركة Bedrock عن المزيد من التحديثات لـ Bedrock التي تهدف إلى اكتشاف الهلوسة وبناء نماذج أصغر بشكل أسرع حيث تريد الشركات المزيد من التخصيص والدقة من النماذج.

تم الإعلان عن AWS خلال re:Invent 2024 Amazon Bedrock Model Distillation والتحققات المنطقية الآلية عند المعاينة لعملاء المؤسسات المهتمين بتدريب النماذج الأصغر حجمًا واكتشاف الهلوسة.

سيتيح Amazon Bedrock Model Distillation للمستخدمين استخدام نموذج أكبر للذكاء الاصطناعي لتدريب نموذج أصغر وتزويد المؤسسات بإمكانية الوصول إلى النموذج الذي يشعرون أنه سيعمل بشكل أفضل مع عبء العمل الخاص بهم.

نماذج أكبر، مثل”https://www.llama.com/” الهدف=”_blank” rel=”noreferrer noopener”> اللاما 3.1 405ب، لديهم المزيد من المعرفة ولكنهم بطيئون وغير عمليين. يستجيب النموذج الأصغر بشكل أسرع ولكن في أغلب الأحيان يكون لديه معرفة محدودة.

وقالت AWS إن عملية تقطير نموذج Bedrock ستجعل عملية نقل معرفة النموذج الأكبر إلى نموذج أصغر دون التضحية بوقت الاستجابة.

يمكن للمستخدمين تحديد النموذج الأثقل وزنًا الذي يريدونه والعثور على نموذج صغير ضمن نفس العائلة، مثل Llama أو Claude، اللذين لديهما مجموعة من أحجام النماذج في نفس العائلة، وكتابة نماذج المطالبات. سيقوم Bedrock بإنشاء استجابات وضبط النموذج الأصغر ويستمر في إنشاء المزيد من بيانات العينة لإنهاء استخلاص المعرفة الخاصة بالنموذج الأكبر.

في الوقت الحالي، يعمل نموذج التقطير مع”https://www.anthropic.com/” الهدف=”_blank” rel=”noreferrer noopener”> أنثروبيوأمازون و”https://about.meta.com/” الهدف=”_blank” rel=”noreferrer noopener”> ميتا نماذج. تقطير نموذج حجر الأساس قيد المعاينة حاليًا.

لماذا تهتم الشركات بالتقطير النموذجي

بالنسبة للمؤسسات التي تريد نموذج استجابة أسرع – مثل النموذج الذي يمكنه الإجابة بسرعة على أسئلة العملاء – يجب أن يكون هناك توازن بين معرفة الكثير والاستجابة بسرعة.

في حين أنه يمكنهم اختيار استخدام نسخة أصغر من نموذج كبير، فإن AWS تؤكد أن المزيد من المؤسسات تريد المزيد من التخصيص في أنواع النماذج – الكبيرة والصغيرة على حد سواء – التي ترغب في استخدامها.

وتأمل AWS، التي تقدم مجموعة مختارة من النماذج في حديقة نماذج Bedrock، أن ترغب الشركات في اختيار أي عائلة نموذجية وتدريب نموذج أصغر لتلبية احتياجاتها.

تستخدم العديد من المؤسسات، ومعظمها من موفري النماذج، تقطير النماذج لتدريب النماذج الأصغر حجمًا. ومع ذلك، قالت AWS إن العملية تتطلب عادةً الكثير من الخبرة في التعلم الآلي والضبط اليدوي. لقد استخدم موفرو النماذج مثل Meta”https://venturebeat.com/ai/meta-researchers-distill-system-2-thinking-into-llms-improving-performance-on-complex-reasoning/”>التقطير النموذجي لجلب معرفة أوسع قاعدة لنموذج أصغر. استفادت Nvidia من تقنيات التقطير والتقليم في صنعها”https://venturebeat.com/ai/nvidias-llama-3-1-minitron-4b-is-a-small-language-model-that-punches-above-its-weight/”> اللاما 3.1-مينيترون 4B، نموذج لغة صغير يقال إنه يؤدي أداءً أفضل من النماذج ذات الحجم المماثل.

التقطير النموذجي ليس جديدًا بالنسبة لشركة أمازون، وهو ما كان عليه الحال من قبل”https://venturebeat.com/ai/amazon-researchers-technique-distills-knowledge-from-a-large-ai-model-to-a-simplified-version-of-it/”>العمل على نموذج التقطير الأساليب منذ عام 2020

اكتشاف الأخطاء الواقعية بشكل أسرع

تظل الهلوسة مشكلة بالنسبة لنماذج الذكاء الاصطناعي، على الرغم من أن الشركات قد ابتكرت حلولاً بديلة مثل الضبط الدقيق والحد من النماذج التي ستستجيب لها. ومع ذلك، فحتى النموذج الأكثر دقة والذي يؤدي فقط مهام توليد الاسترجاع المعزز (RAG) مع مجموعة بيانات لا يزال من الممكن أن يرتكب أخطاء.

حل AWS هو عمليات فحص منطقية تلقائية على Bedrock، والتي تستخدم التحقق الرياضي لإثبات صحة الاستجابة.

قالت AWS: “إن عمليات التحقق من الاستدلال الآلي هي وسيلة الحماية العامة الأولى والوحيدة للذكاء الاصطناعي التي تساعد على منع الأخطاء الواقعية بسبب الهلوسة باستخدام استدلال دقيق منطقيًا وقابل للتحقق”. “من خلال زيادة الثقة التي يمكن أن يضعها العملاء في الاستجابات النموذجية، تفتح عمليات التحقق من الاستدلال الآلي الذكاء الاصطناعي التوليدي أمام حالات استخدام جديدة حيث تكون الدقة أمرًا بالغ الأهمية.”

يمكن للعملاء الوصول إلى فحوصات الاستدلال الآلي من Amazon Bedrock Guardrails، المنتج الذي يوفر الذكاء الاصطناعي المسؤول والضبط الدقيق للنماذج. غالبًا ما يستخدم الباحثون والمطورون الاستدلال الآلي للتعامل مع الإجابات الدقيقة للمسائل المعقدة في الرياضيات.

يتعين على المستخدمين تحميل بياناتهم وستقوم شركة Bedrock بتطوير القواعد الخاصة بالنموذج الذي يجب اتباعه وتوجيه العملاء لضمان ضبط النموذج لهم. بمجرد التحقق من ذلك، ستتحقق عمليات التحقق من الاستدلال التلقائي على Bedrock من الاستجابات من النموذج. إذا قامت بإرجاع شيء ما بشكل غير صحيح، فسوف يقترح Bedrock إجابة جديدة.

قال مات جارمان، الرئيس التنفيذي لشركة AWS، خلال كلمته الرئيسية إن عمليات الفحص الآلي تضمن أن تظل بيانات المؤسسة هي ما يميزها، حيث تعكس نماذج الذكاء الاصطناعي الخاصة بها ذلك بدقة.