أعلنت Google عن إتاحة شفرة مشروع TorchTPU، وهو خلفية أصلية لـ PyTorch تسمح بتشغيل النماذج على معالجات TPU. يهدف المشروع إلى جسر الفجوة بين بيئة التطوير المألوفة لمطوري PyTorch وإمكانيات المعالجة المتخصصة التي توفرها TPU.
ما هو TorchTPU؟
TorchTPU يضيف نوى ATen مخصصة لتشغيل عمليات PyTorch مباشرة على TPU. يتضمن نظامًا لتخزين مؤقت للترجمة (compilation cache) يسرّع تنفيذ حسابات XLA، كما يدعم التدريب الموزع عبر Data Parallelism وTensor Parallelism.
الميزات الرئيسية
- نوى ATen مخصصة لتسريع عمليات PyTorch على TPU.
- ذاكرة تخزين مؤقت للترجمة لتحسين الأداء.
- دعم التدريب الموزع: Data Parallelism وTensor Parallelism.
- أمثلة جاهزة تشمل نماذج Llama, Qwen, ResNet, DLRM, minGPT, UNet.
- تكامل مع torch.compile() لتشغيل وضع الرسم البياني.
- أدوات تصحيح وأدوات قياس الأداء مدمجة.
كيفية البدء
ابدأ بإنشاء بيئة افتراضية Python ثم ثبت الحزمة من PyPI: pip install torch_tpu==0.2.0 –extra-index-url https://download.pytorch.org/whl/cpu. إذا رغبت في بناء العجلات من المصدر، استخدم Bazel مع خيار ‑c opt لبناء نسخة مُحسّنة. الوثائق المتاحة على https://torchtpu.readthedocs.io/ تقدم دليلًا مفصّلاً وأمثلة تفاعلية يمكن تشغيلها على آلة افتراضية TPU (أبسطها هو نسخة v6e من GCE).
ما الذي يعنيه للمطورين؟
برأينا، يفتح TorchTPU بابًا جديدًا للمطورين الذين يفضلون PyTorch على بيئات TensorFlow التقليدية. الآن يمكن استغلال قوة TPU لتسريع التدريب والاستدلال دون الحاجة لتعلم واجهات جديدة. الدعم للتدريب الموزع يعني أن المشاريع الكبيرة يمكن أن تستفيد من بنية متعددة الأجهزة بسهولة، بينما توفر أدوات التصحيح والقياس القدرة على تحسين الأداء بسرعة.
في الممارسة العملية، سيقلل الاعتماد على TorchTPU من وقت إعداد البنية التحتية للذكاء الاصطناعي، مما يسمح بالتركيز على تحسين النماذج بدلاً من التعامل مع تعقيدات التوافق بين الأطر.
المصدر: github.com