شهد إصدار PyTorch 2.15 دفعة قوية ومهمة للمطورين الذين يعتمدون على أجهزة Mac المزودة بمعالجات Apple Silicon (MPS) كأداتهم الأساسية لتسريع الحوسبة في مشاريع الذكاء الاصطناعي. يقدم هذا التحديث تحسينات كبيرة في الأداء، خاصة لفك تشفير نماذج اللغة الكبيرة (LLMs)، مع دعم جديد لميزة FP8 وتقليل هائل في استهلاك الذاكرة لبعض مهام معالجة الفيديو.
يعكس هذا الإصدار التزام فريق PyTorch في Hugging Face بجعل أجهزة Mac بيئة من الطراز الأول لتشغيل وتدريب نماذج PyTorch، حيث تم تحديد المشكلات الشائعة مثل العمليات غير المدعومة وتدهور الأداء وإصلاحها بشكل استباقي.
سرعة غير مسبوقة لنماذج اللغة الكبيرة
أحد أبرز إنجازات PyTorch 2.15 هو التسريع الملحوظ في فك تشفير نماذج اللغة الكبيرة، وخصوصًا نماذج Mixter-of-Experts (MoE) التي أصبحت أسرع بخمس إلى 6.5 مرات مما كانت عليه في الإصدار 2.14. على سبيل المثال، ارتفعت سرعة نموذج Qwen3.6-35B-A3B من 9.4 إلى 61.3 رمزًا في الثانية على معالج M3 Ultra، ونموذج LFM2.5-8B-A1B من 23.6 إلى 123.6 رمزًا في الثانية.
ولم تقتصر التحسينات على نماذج MoE فقط، بل استفادت النماذج الكثيفة أيضًا من طبقات Linear الأسرع، كما أصبحت عملية Softmax لعينات الرموز أسرع بثماني مرات تقريبًا. هذه السرعات جاءت بفضل استخدام نوى Metal المخصصة وإدارة أفضل للمزامنة بين وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسوميات (GPU).
تحسينات في الذاكرة والحسابات المعقدة
يقدم PyTorch 2.15 دعمًا لأنسجة FP8 على MPS، مما يقلل من استهلاك الذاكرة إلى النصف مقارنةً بـ BF16. هذه الميزة تتيح تخزين قيم float8_e4m3fn وتطبيق عمليات ضرب المصفوفات Scaled Matrix Multiplication والعمليات الأخرى المدعومة على CUDA/CPU مباشرة على Mac.
كما شهدت مهام معالجة الفيديو تحسنًا دراماتيكيًا، حيث انخفض استهلاك الذاكرة لذروة فك تشفير الفيديو باستخدام VAE في نموذج Wan2.2 من 270 غيغابايت إلى حوالي 8 غيغابايت فقط. وتمت إضافة نوى Metal جديدة لمعالجة Convolution، وPadding، وDropout، وعكس Interpolation، بالإضافة إلى عمليات الاختزال، مما يعزز أداء مهام الصوت والفيديو والتدريب.
من المتطلبات الجديدة أن MPS يتطلب الآن نظام التشغيل macOS 15 أو أحدث، ويتطلب PyTorch 2.15 إصدار Python 3.11 أو أحدث.
ما الذي يعنيه هذا للمطورين؟
بالنسبة للمطورين الذين يستخدمون أجهزة Mac لبناء وتشغيل نماذج الذكاء الاصطناعي، يمثل هذا التحديث قفزة نوعية. تعني السرعات المحسنة في فك تشفير LLMs أن نماذج اللغة المحلية ستعمل بشكل أسرع بكثير، مما يقلل من أوقات الانتظار ويزيد من إنتاجية العمل.
كما أن دعم FP8 والتحسينات في استهلاك الذاكرة تعني إمكانية تشغيل نماذج أكبر وأكثر تعقيدًا على أجهزة Mac، بما في ذلك مهام توليد الفيديو التي كانت تتطلب سابقًا موارد هائلة. هذا يفتح آفاقًا جديدة لتطوير تطبيقات الذكاء الاصطناعي المحلية على نظام Apple البيئي، ويقلل الحاجة للاعتماد على حلول سحابية قد تكون مكلفة. على سبيل المثال، إن توفير 262 غيغابايت من الذاكرة في مهام الفيديو يعني توفيرًا كبيرًا في الموارد، مع العلم أن تكلفة 1 غيغابايت من ذاكرة الوصول العشوائي السحابية قد تصل إلى 0.005 دولار أمريكي للساعة الواحدة، أي ما يعادل 0.01875 ريال سعودي أو 0.01835 درهم إماراتي تقريبًا.
المصدر: huggingface.co