أعلنت HPE عن توسيع قدرات حل التخزين Alletra Storage MP X10000 ليقدم حلاً مبتكرًا لمشكلة ذاكرة GPU المكلفة في تطبيقات الذكاء الاصطناعي. يهدف هذا التوسع إلى تقليل التكاليف المرتبطة بمعالجة استدلال النماذج الكبيرة وتحسين كفاءتها.
الفكرة الرئيسية هي تفريغ حالة الاستدلال الوسيطة (KV cache) التي عادةً ما تُخزن في ذاكرة GPU باهظة الثمن. بدلاً من إزالة هذه البيانات وإعادة حسابها لاحقًا، يحتفظ بها Alletra MP X10000 في طبقة تخزين مشتركة. أظهرت الاختبارات التي جرت بالتعاون مع Kamiwaza واستخدام وحدات NVIDIA H200 GPUs، أن هذا الحل يمكن أن يسرّع وقت الحصول على الرمز الأول بما يصل إلى 20 مرة، ويزيد من إنتاجية الاستدلال الفعالة بنسبة 17 ضعفًا، مقارنة بالتشغيل دون تفريغ ذاكرة KV cache.
نرى أن هذا يغير المعادلة الاقتصادية لتشغيل الذكاء الاصطناعي بشكل جذري. ففي حين يحظى تسعير نماذج الذكاء الاصطناعي باهتمام كبير، فإن التكاليف المتكررة لإعادة معالجة السياقات ذاتها على مسرعات GPU المكلفة غالبًا ما يتم تجاهلها. تصبح هذه المشكلة أكثر وضوحًا مع تزايد اعتماد سير عمل الوكلاء (agentic workflows)، حيث تعيد الوكلاء معالجة المستندات وتعليمات النظام وتواريخ المحادثات مرارًا وتكرارًا.
مشكلة التكرار في سير عمل وكلاء الذكاء الاصطناعي
وكلاء الذكاء الاصطناعي غالبًا ما يجدون أنفسهم في دورة متكررة؛ وكيل يسترجع معلومات، وآخر يقيمها، وثالث يتحقق من النتيجة، مما يستدعي إعادة زيارة المواد التي تمت معالجتها بالفعل. هذا التكرار يستنفذ موارد GPU، خاصة وأن ذاكرة GPU ليست بلا حدود. عندما يتم إخلاء ذاكرة التخزين المؤقت القابلة لإعادة الاستخدام ثم تُحتاج مرة أخرى، قد يضطر محرك الاستدلال إلى إعادة بنائها، مما يعني المزيد من عمل GPU والمزيد من الانتظار دون إضافة رؤى جديدة. يوفر HPE Alletra MP X10000 طبقة مشتركة لذاكرة التخزين المؤقت المفرغة، مع دعم RDMA لـ S3 لتسريع مسار بيانات التخزين. الهدف هو استعادة السياق القابل لإعادة الاستخدام بدلاً من جعل GPU يعيد حسابه. مبدأ «الحساب مرة واحدة والاستخدام المتكرر» أصبح مهمًا جدًا عندما تظهر تكاليف إعادة الحساب على فاتورة البنية التحتية.
ما يعنيه هذا للمطورين والمصممين
بالنسبة للمطورين الذين يبنون تطبيقات الذكاء الاصطناعي، وخاصة تلك التي تعتمد على وكلاء الذكاء الاصطناعي أو تتعامل مع سياقات طويلة، يقدم هذا الحل فرصة لخفض تكاليف التشغيل وتحسين أداء نماذجهم. فبدلاً من الاستثمار في المزيد من وحدات GPU أو قبول أداء أبطأ، يمكنهم الآن التفكير في حلول تخزين ذكية تدعم كفاءة الاستدلال. إذا كان تطبيقك يواجه مشكلات في بطء الاستجابة أو ارتفاع تكاليف GPU بسبب التكرار في معالجة السياق، فإن تقنيات تفريغ ذاكرة التخزين المؤقت مثل هذه تستحق التقييم. على سبيل المثال، يمكن لخفض التكاليف أن يفتح الباب أمام تجارب تصميم أكثر تعقيدًا وتفاعلية في تطبيقات الذكاء الاصطناعي، مما يفيد المصممين أيضًا في إنشاء تجارب مستخدم أفضل دون قيود الميزانية الصارمة على الموارد الحاسوبية.
المصدر: theregister.com