أفضل شركات التكنولوجيا تتعاون من أجل سلامة الذكاء الاصطناعي

سبعة لاعبين رئيسيين في مجال الذكاء الاصطناعي (AI) – أمازون ، أنثروبيك ، جوجل ، إنفليكشن ، ميتا ، مايكروسوفت، و أوبن إيه آي – تعهدوا بتنفيذ ضمانات صارمة.

وكشف هذا العهد في أ بيان البيت الأبيض، يهدف إلى معالجة وإدارة المخاطر المحتملة المرتبطة بالذكاء الاصطناعي. بالإضافة إلى ذلك ، فإنه يشمل مشاركة نتائج اختبار أمان الذكاء الاصطناعي وتعزيز الشفافية في هذا المجال سريع التطور.

أصدر الرئيس الأمريكي جو بايدن هذا الإعلان بدعم من ممثلين من شركات التكنولوجيا السبع هذه.

وأكد في كلمته على الحاجة الملحة إلى اليقظة والبصيرة فيما يتعلق بـ التهديدات من التقنيات المتطورة بسرعة. وأكد أنه إذا تُركت دون تنظيم ، فقد تعرض للخطر معاييرنا وقيمنا الديمقراطية.

الحد من تهديد المعلومات المضللة للذكاء الاصطناعي

الالتزام يتبع تحذيرات متعددة بشأن المخاطر المحتملة للذكاء الاصطناعي ، لا سيما في نشر المعلومات المضللة. يتجلى القلق بشكل خاص مع اقتراب الانتخابات الرئاسية الأمريكية لعام 2024 ، حيث تشكل أدوات الذكاء الاصطناعي المتطورة بسرعة تهديدات كبيرة.

يبدو أن اتفاقية حماية الذكاء الاصطناعي ترمز إلى خطوة أساسية نحو التخفيف من المخاطر المحتملة وتسخير قوة الذكاء الاصطناعي بشكل مسؤول.

في وقت سابق من هذا الأسبوع ، ميتا كشف عن أداة الذكاء الاصطناعي الجديدة الخاصة به ، اللاما 2. ومع ذلك ، حافظ رئيس الشؤون العالمية للشركة ، السير نيك كليج ، على منظور متوازن. يقترح أن الضجيج المحيط بقدرات الذكاء الاصطناعي قد تجاوز إلى حد ما التكنولوجيا الفعلية.

كجزء من الالتزام الموقع يوم الجمعة ، وافقت شركات الذكاء الاصطناعي العملاقة هذه على اختبار أمان استباقي لأنظمة الذكاء الاصطناعي الخاصة بها وضمان شفافية الذكاء الاصطناعي عبر العلامات المائية.

كما اتفقوا على تقديم تقارير منتظمة عن قدرات الذكاء الاصطناعي وحدوده والبحث النشط المخاطر المحتملة مثل التحيز ، التعدي على الخصوصية والتمييز.

كان مفهوم العلامة المائية نقطة نقاش خلال اجتماع مفوض الاتحاد الأوروبي تييري بريتون مع الرئيس التنفيذي لشركة OpenAI ، سام التمان ، في سان فرانسيسكو في يونيو. أعرب بريتون ، في تغريدة له ، عن اهتمامه بإجراء مزيد من المناقشات حول هذا الموضوع.

نحو حوكمة عالمية للذكاء الاصطناعي

وفقًا لخبراء الصناعة ، يعد الالتزام بالضمانات الطوعية خطوة نحو لوائح منظمة العفو الدولية الأكثر صرامة في الولايات المتحدة ، والتي كانت في الغالب غير منظمة.

الهدف من هذا التعهد هو تعزيز وعي المستخدم بالمحتوى عبر الإنترنت الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.

في الوقت نفسه ، كشف البيت الأبيض عن خطط لـ أمر تنفيذي بشأن هذه القضية. وأكدت عزمها على العمل مع الحلفاء الدوليين لإنشاء إطار عمل لـ تطوير واستخدام الذكاء الاصطناعي.

يُنظر إلى هذا القرار على أنه استجابة للمخاوف بشأن إساءة استخدام الذكاء الاصطناعي في توليد معلومات مضللة وخلق زعزعة استقرار مجتمعي. حتى أن البعض يتكهن بالمخاطر الوجودية التي يمكن أن تشكلها على البشرية.

ومع ذلك ، يعتقد العديد من علماء الكمبيوتر البارزين أن هذه التوقعات المروعة هي كذلك مبالغ فيه.