قبل ما يزيد قليلاً عن أسبوع، حضرتُ مؤتمرًا متخصصًا في الذكاء الاصطناعي في تشونغ قوان تسون، المنطقة الصاخبة للتكنولوجيا الفائقة في بكين. لقد كانت الجلسات غنية بالمحتوى، وتناولت كل شيء بدءًا من التحسين الذاتي التكراري إلى الروبوتات البشرية، واستضافت المؤتمر عددًا من أساطير الحوسبة. ولكن خلاصة واحدة حاسمة تركت أثرها لديّ: يجب على الولايات المتحدة والصين أن تضعا تنافسهما الشرس في مجال الذكاء الاصطناعي جانبًا.
إن المخاطر الأمنية والسيبرانية التي تواجهها تقنيات الذكاء الاصطناعي المتطورة خطيرة للغاية بحيث لا يمكن تجاهلها، وقد تؤدي النماذج الوكيلة ذات القدرات المتزايدة إلى إحداث فوضى عارمة قريبًا ما لم تتمكن القوى العظمى في مجال الذكاء الاصطناعي في العالم من العمل معًا. صرّح ستيفن كاسبر، عالم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا والذي تحدث في المؤتمر عبر الفيديو، بأن الذكاء الاصطناعي هو تكنولوجيا عالمية ذات فوائد عالمية، وأضرار عالمية، وميل ثابت لانتشار القدرات الجديدة في نهاية المطاف.
حتى الآن، نظرت الولايات المتحدة إلى تقدم الصين في مجال الذكاء الاصطناعي باعتباره تهديدًا اقتصاديًا وأمنيًا قوميًا، وفرضت واشنطن قيودًا صارمة على الرقائق ومعدات تصنيعها. لكن المؤتمر، الذي نظمته أكاديمية بكين للذكاء الاصطناعي، عزز فكرة أن كلا البلدين سيخسران إذا تم تطوير الذكاء الاصطناعي بسرعة كبيرة وبشكل متهور. فمع تزايد قوة الذكاء الاصطناعي وتشابكه مع الحياة اليومية، تتصاعد المخاطر التي يمكن استخدامه فيها لشن هجمات سيبرانية أو الفشل بطرق كارثية.
لماذا أصبح التعاون في الذكاء الاصطناعي ضرورة ملحة؟
أشار كاسبر إلى بحث يُظهر أن فوائد التعاون الدولي بشأن مخاطر الذكاء الاصطناعي تفوق أي مخاطر أمنية وطنية تأتي من العمل معًا. وشبّه الوضع الحالي بكيفية اضطرار الولايات المتحدة والاتحاد السوفييتي إلى العمل معًا بشأن المخاطر النووية، حتى في حين كان كل منهما يسعى إلى التفوق على الآخر. قال كاسبر: الشيء الوحيد الذي يمكن أن يتفق عليه الجميع تقريبًا في مجال الذكاء الاصطناعي في الوقت الحالي هو أن الذكاء الاصطناعي لا يحتاج إلى لحظة كارثية كتشرنوبيل.
المخاطر السيبرانية المتزايدة للذكاء الاصطناعي
سلطت إحدى الجلسات الضوء على عالمية التحديات السيبرانية التي يثيرها الذكاء الاصطناعي الأكثر تقدمًا. يتضمن ذلك أنواعًا جديدة من نقاط الضعف في الكود الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وطرقًا جديدة لمهاجمة الأنظمة التي يتم تمكينها من خلال استخدام الأدوات الوكيلة والأساليب الآلية لتنفيذ هجمات الهندسة الاجتماعية.
تحدثت مع لين يون، الأستاذ في جامعة شنغهاي جيا تونغ الذي يقوم بعمل ممتاز في مجال الذكاء الاصطناعي وأمن الكمبيوتر. أخبرني يون أنه يتوقع أن يكتسب المتسللون ميزة على المدى القريب، لكن التدابير المضادة الجديدة، بما في ذلك الاستخدامات الجديدة للذكاء الاصطناعي، يجب أن تعيد التوازن نحو الدفاع بمرور الوقت.
وقال يون إنه حتى لو كان التعاون الدولي معقدًا بسبب المنافسة، فإنه يجب أن يظل أولوية. إذا فهمت الدول المختلفة المخاطر بطرق مماثلة، يصبح من الأسهل تطوير مبادئ السلامة والمعايير الفنية المشتركة، وأضاف: المفتاح هو العثور على المجالات التي يمكن أن تؤدي فيها المشاركة إلى تقليل المخاطر النظامية دون الكشف عن تفاصيل تشغيلية حساسة.
معضلة نماذج الذكاء الاصطناعي مفتوحة الوزن
لعل السؤال الأكثر إلحاحًا لكلا البلدين هو كيفية الموازنة بين الانفتاح والمخاطر. أصبحت النماذج ذات الوزن المفتوح ذات أهمية بالغة للبحث والابتكار، حيث أثبتت النماذج الصينية شعبيتها في الولايات المتحدة. ولكن مع تقدم هذه النماذج، سيصبح من الصعب التأكد من أنها لا تساعد المتسللين على تحديد نقاط الضعف الأمنية ولا يمكن استخدامها كأسلحة سيبرانية.
على مدى السنوات القليلة الماضية، أخذت الشركات الصينية زمام المبادرة في تقديم نماذج ذكاء اصطناعي ذات وزن مفتوح عالية القدرة، مثل Kimi من Moonshot، وQwen من Alibaba، وGLM من Z.ai. وفي المقابل، أعادت الولايات المتحدة إطلاق دفعها نحو الذكاء الاصطناعي مفتوح الوزن بنماذج مثل Nvidia Nemotron. لكننا نقترب من نقطة تحول حيث يمكن أن تكون النماذج المفتوحة، حتى الأقل قوة، خطيرة إذا تم تجريدها من حواجز الحماية. يتضمن أحدث طراز من شركة Z.ai الصينية، GLM 5.2، قدرات برمجية وتشفيرية متطورة، وفقًا لتحليل الخبراء. وقد يكون الجيل القادم من نماذج الذكاء الاصطناعي ذات الوزن المفتوح بنفس قدرة Fable أو Mythos. في الواقع، قالت شركة 360 Security Technologies الصينية الكبرى للأمن السيبراني، إنها طورت نموذجًا للذكاء الاصطناعي يتمتع بقدرات قرصنة على قدم المساواة مع Mythos.
وقال يون إن الصناعة ستحتاج إلى ابتكار طرق جديدة لضمان تحديث النماذج المفتوحة، وخلوها من الأبواب الخلفية ونقاط الضعف، واستيفائها لمعايير السلامة.
إن المخاوف الأمنية هي أحد الأسباب وراء عدم إصدار بعض النماذج المتقدمة في الصين كمصدر مفتوح، كما أخبرني مصدر موثوق في إحدى شركات الذكاء الاصطناعي الرائدة في الصين. هذا يعكس التوتر المستمر بين الحاجة إلى الانفتاح لتعزيز الابتكار وضرورة الحفاظ على الأمن في هذا المجال الحيوي. في نهاية المطاف، يبقى التعاون الدولي بين القوى الكبرى في مجال الذكاء الاصطناعي حجر الزاوية لتأمين مستقبل هذه التكنولوجيا للبشرية جمعاء.