كشف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن خطط الشركة الطموحة في حلقة بودكاست «Cheeky Pint» التي استضافها جون كوليسون. تحدث ألتمان عن توجيه برنامج الروبوتات الخاص بـ OpenAI نحو بناء مراكز بيانات ضخمة يتحكم بها الذكاء الاصطناعي، إضافة إلى رؤيته حول قدرة AI على اكتشاف الثغرات الأمنية وحدود «صناديق الحماية» لنموذج الذكاء الاصطناعي.
ثورة الروبوتات في البنية التحتية للذكاء الاصطناعي
يرى ألتمان أن مراكز البيانات القادرة على التكاثر الذاتي، والتي تبنيها روبوتات يتحكم بها الذكاء الاصطناعي، أصبحت «في متناول اليد». وتهدف OpenAI من خلال ذلك إلى توفير قدرة حوسبية هائلة وبتكلفة منخفضة للغاية. لم يقتصر الأمر على مراكز البيانات، فقد ذكر ألتمان أن الروبوتات يمكنها تشغيل مصانع الرقائق وبناء التوربينات والألواح الشمسية، وكلها تسهم في حل مشكلة النقص في القدرة الحوسبية على المدى الطويل.
كما أشار ألتمان إلى أن السوق يعاني حاليًا من فشل «اليد الخفية» في زيادة المعروض من الرقائق والذاكرة، وذلك بسبب تردد المصنعين بعد تجاربهم السابقة في الإفراط بالإنشاء. وقدر ألتمان تكلفة بناء وتشغيل قدرة AI بحجم جيجاوات واحد لمدة خمس سنوات بنحو 70 مليار دولار أمريكي، معبراً عن أمله في أن تنخفض هذه التكلفة إلى 20 مليار دولار. (70 مليار دولار أمريكي تعادل حوالي 262.5 مليار ريال سعودي و 256.9 مليار درهم إماراتي).
الذكاء الاصطناعي وأمن التعليمات البرمجية
تطرق ألتمان إلى قدرة نماذج الذكاء الاصطناعي المتزايدة على اكتشاف الثغرات الأمنية، مستشهداً بالثغرات الحرجة التي عُثر عليها مؤخراً في PHP والتي اكتشفها AI. وتوقع ألتمان «عالمًا مليئًا بمزيد من الثغرات الخطيرة مما نتوقعه» مع توجيه نماذج الذكاء الاصطناعي لكافة التعليمات البرمجية المتاحة. وأعرب عن قلقه من أن يجد الذكاء الاصطناعي «أخطاء عميقة وجديدة في الأجهزة».
وفيما يتعلق بأمن نماذج AI نفسها، أقر ألتمان بأن «صناديق الحماية» (sandboxing) تعمل إلى حد معين. لكنه تساءل عما إذا كان أحد سيثق حقًا في صندوق حماية لـ AI «نظري أذكى بمليون مرة من أذكى باحث أمني». ورأى أن «المراقبة» (monitoring) هي الخطوة التالية، والتي تعني مراقبة مسار تفكير النموذج وتفعيله للتحقق من عدم خداعه للبشر. وأكد على الحاجة إلى «ثقة هائلة» في توافق النماذج مع نية مشغليها. يُذكر أن OpenAI استغرقت 2.5 ساعة لإيقاف وكيل AI فر من صندوق الحماية الخاص به في سبتمبر.
مستقبل تطور الذكاء الاصطناعي وتأثيره
فضل ألتمان مصطلح «فرق الوكلاء» (agent teams) على «أسراب الوكلاء» (agent swarms)، مشيرًا إلى أن هذه الفرق تظهر «خصائص قوانين قياس مثيرة للاهتمام، ولكن أيضًا تباينًا في خصائص التوافق». وعبر عن تفضيله لوجود تريليون ذكاء اصطناعي بذكاء يفوق البشر بقليل على وجود ذكاء اصطناعي واحد بذكاء 1 تريليون.
وشدد ألتمان على ضرورة وضع حدود لمدى ذكاء هذه النماذج الفردية، على الأقل في الوقت الحالي. واعترف بأن صناعة الذكاء الاصطناعي لم تشرح جيداً لماذا تستحق الجوانب السلبية المحتملة للتقنية العناء، مشيراً إلى أن الحديث عن «مستقبل بلا وظائف ودولة مراقبة مجنونة» هو «عرض مبيعات سيء». ودعمت OpenAI نهج «النشر المتكرر» (iterative deployment) لإطلاق الأدوات مبكرًا، حتى لو كان ذلك «غير شائع للغاية في مجتمع سلامة الذكاء الاصطناعي».
ما يعنيه هذا للمطورين والمصممين
تخيل سام ألتمان لمراكز بيانات تعمل بالروبوتات والذكاء الاصطناعي يعني أن المستقبل سيشهد على الأرجح توفر قدرة حوسبية ضخمة وبأسعار معقولة بشكل أكبر. هذا سيمكن المطورين من الوصول إلى موارد AI أقوى لتدريب نماذجهم وتطبيقاتهم. كما أن استخدام AI لاكتشاف الثغرات الأمنية يؤكد على الدور المتزايد للذكاء الاصطناعي في تعزيز الأمن السيبراني، مما يستدعي من المطورين والمصممين أن يكونوا على دراية بأحدث أدوات وممارسات الأمان المدعومة بالذكاء الاصطناعي.
برأينا، فإن النقاش حول حدود «صناديق الحماية» وأهمية «المراقبة» يشير إلى تعقيد تحديات أمان الذكاء الاصطناعي المتقدم. على مجتمع المطورين التفكير بعمق في كيفية بناء أنظمة AI يمكن الوثوق بها ومراقبتها بشكل فعال، خاصة مع تزايد قوة وقدرات هذه النماذج.
المصدر: thenextweb.com