أعلنت PyTorch عن إضافة جديدة تُسمّى TorchNeuron، وهي مكوّن خلفي (backend) أصلي يتيح تشغيل نماذج Hugging Face على معالج AWS Trainium بسهولة أكبر، مع دعم الوضع الفوري (eager mode) وtorch.compile وواجهات التوزيع المدمجة.
ما هو TorchNeuron؟
TorchNeuron هو ملحق (plugin) يدمج جهاز Neuron كجهاز PyTorch أصلي. يوفّر دعمًا للوضع الفوري، ويعمل مع أدوات التوزيع مثل DTensor وFSDP2، كما يتيح تشغيل torch.compile تلقائيًا على Trainium. الإصدار العام للبيتا سيُتاح اعتبارًا من 20 أكتوبر 2026 عبر الأمر pip install torch-neuronx.
كيف يسهّل تشغيل نماذج Hugging Face؟
قبل TorchNeuron كان تشغيل نماذج على Trainium يتم عبر مكتبة optimum-neuron التي تعتمد على PyTorch XLA وتفرض نماذجً lazy وتشكيلات ثابتة. الآن تُصبح مكتبات Hugging Face – Transformers، Diffusers، Accelerate، PEFT وTRL – تتعامل مع Trainium كجهاز عادي عبر تمرير device_map=neuron. النتيجة أن 89 % من أكثر 100 نموذج توليد نص شائع مدعومة مباشرة، مقارنةً بـ 46 % في الإصدار السابق.
- التنفيذ الفوري يزيل الحاجة إلى إعادة تجميع الرسوم البيانية عند كل تغيير في الشكل.
- دعم torch.compile يتيح تحسين الأداء بنقرة واحدة فقط عبر –torch_compile.
- إمكانية تشغيل التدريب مع نفس سكريبتات Transformers وTRL دون تعديل خاص بـ Neuron.
بالنسبة للمطورين، يعني ذلك تقليل تعقيد إعداد بيئة التدريب على Trainium إلى مجرد تثبيت الحزمة واستخدام نفس الأكواد التي تُستعمل على GPU. لا تحتاج إلى مُدرب مخصّص أو نسخة معدّلة من النموذج؛ يمكنك رفع النموذج المدرب إلى Hugging Face Hub واستخدامه على أي بنية أخرى دون تعديل.
ما الذي يعنيه ذلك للمطورين؟
مع TorchNeuron يصبح الانتقال إلى Trainium أسرع وأقل تكلفة، خاصةً للمشاريع التي تستفيد من تسارع التدريب على مستوى البنية التحتية السحابية من Amazon. يمكن للفرق الآن تجربة نماذج أكبر على Trainium دون الحاجة إلى تعديل الكود، مما يسرّع من دورة التجربة والابتكار في مجال الذكاء الاصطناعي.
المصدر: huggingface.co