من فضلك تسجيل الدخول أو تسجيل لتفعل ذلك.

نترقب بشغف تعاونًا جديدًا بين Marvell Technology ومُدمج الأنظمة Penguin Solutions، يهدف إلى بناء نسيج ذاكرة ضوئي (photonic memory fabric) يعد بتحويل طريقة استخدامنا للذاكرة عالية النطاق الترددي (HBM) لمسافات أطول. هذا التطور البارز يحمل في طياته وعودًا كبيرة لمستقبل مراكز البيانات وتطبيقات الذكاء الاصطناعي.

التقنية الأساسية لهذا النسيج كانت من ابتكار Celestial AI، وقد استحوذت عليها Marvell في فبراير مقابل 3.5 مليار دولار أمريكي (ما يعادل تقريبًا 13.125 مليار ريال سعودي أو 12.845 مليار درهم إماراتي). تشتمل هذه التقنية على وحدة توسيع ذاكرة تتضمن مكدسين من HBM3e بسعة إجمالية 72 جيجابايت، بالإضافة إلى دعم لثماني قنوات DDR5، وكل ذلك مدمج على محول ضوئي سيليكوني يوفر نطاقًا تردديًا ثنائي الاتجاه يبلغ 7.2 تيرابت في الثانية (900 جيجابايت في الثانية).

كيف يعمل نسيج الذاكرة الضوئي الجديد؟

يوضح Preet Virk، نائب الرئيس الأول لقسم الأنسجة الضوئية في Marvell، أن شركته توفر هذه الوحدات إلى Penguin، التي تتولى بدورها بناء الأجهزة وإدارة الطاقة والبرمجيات وطبقة الإدارة الكاملة. ستدعم أولى أجهزة Penguin المستندة إلى هذه التقنية 16 وحدة ذاكرة، لتوفير ما يصل إلى 16 تيرابايت من DDR5 و 1 تيرابايت من HBM، مع إمكانية مضاعفة سعة DDR5 في الأنظمة المستقبلية.

يتميز كل جهاز بنطاق ترددي يبلغ 57.6 تيرابت في الثانية، يتم توزيعه عبر نظام تحويل بصري مصمم بواسطة Marvell، ويدعم ما يصل إلى 16 خادمًا. يمكن ربط الخوادم إما عبر بطاقة واجهة الشبكة (NIC)، أو عبر وحدات بصرية مدمجة (CPO) أو شبه مدمجة (NPO). نرى أن وحدات NPO تحديدًا ستلعب دورًا حاسمًا في الجيل القادم من أنظمة مراكز البيانات واسعة النطاق من شركات مثل Nvidia و AMD، لقدرتها على توفير صيانة أفضل.

آثار هذا الابتكار على الذكاء الاصطناعي ومراكز البيانات

من خلال طبقة برمجية طورتها Penguin، يمكن لكل نظام الوصول إلى مساحة الذاكرة المشتركة بالكامل، على غرار طريقة وصول الأنظمة إلى سعة التخزين المتصلة بالشبكة. هذه الوظيفة تعتمد حاليًا على بطاقات NIC ووحدات المعالجة المركزية المضيفة المتوافقة مع CXL 3.1، مثل معالجات Venice الجديدة من AMD. ومع ذلك، بالنسبة للذاكرة المستندة إلى NPO وCPO، يمكن تجاوز CXL بالكامل.

الفوائد واضحة: إذا أمكن مشاركة وتجميع الذاكرة عبر خوادم متعددة، فلن يحتاج كل خادم إلى قدر كبير من ذاكرة الوصول العشوائي (DRAM) الخاصة به، مما قد يوفر الكثير من المال. كما تتيح البرمجيات أوضاعًا متعددة لتصنيف الذاكرة، بما في ذلك وضع HBM cache-through الذي يسمح للمستخدمين بالاستفادة من أداء HBM مع سعة DDR5. هذا الوضع يعامل HBM كذاكرة تخزين مؤقتة للقراءة/الكتابة، حيث تُكتب الملفات التي يتم الوصول إليها بشكل متكرر وتُقرأ من HBM أولاً قبل دفعها إلى DDR5 القياسية عندما تصبح قديمة.

تضع Marvell وPenguin نظام الذاكرة الجديد كبديل لتقليل تحميل الذاكرة المؤقتة لمفتاح القيمة (KV cache) المستندة إلى التخزين. تولد استنتاجات الذكاء الاصطناعي ذاكرة KV cache كبيرة تستخدم لتتبع حالة النموذج عبر جلسات الدردشة والوكلاء طويلي الأمد. ونظرًا لأن إعادة حساب هذه الذاكرة قد يكون مكلفًا من الناحية الحسابية ويستهلك مساحة كبيرة، غالبًا ما يتم نقل الذاكرات المؤقتة غير النشطة إلى DRAM أو الذاكرة الفلاشية. تزعم Marvell أن نقل KV cache من HBM مباشرة إلى هذه الأجهزة يوفر أداءً أفضل واستغلالًا أعلى للذاكرة.

إضافة إلى أعباء عمل الذكاء الاصطناعي، تحمل هذه التقنية إمكانية تقليل كمية DRAM المطلوبة للأنظمة الفردية، وهو مفهوم تبنته Meta بالفعل في مراكز البيانات الخاصة بها. تتوقع Marvell وصول الجيل الأول من أنظمة توسيع الذاكرة Photonic Fabric من Penguin في النصف الثاني من العام المقبل.

المصدر: theregister.com

رقاقات NextSilicon Maverick-2: مرونة الأداء في حوسبة HPC
ثغرة NoisyTCP في نواة Linux: خطر يهدد خوادمك

Reactions

0
0
0
0
0
0
بالفعل كان رد فعل لهذا المنصب.

ردود الفعل