ائتلاف من 20 شركة تكنولوجيا وقعت تم التوصل إلى اتفاق يوم الجمعة للمساعدة في منع التزييف العميق باستخدام الذكاء الاصطناعي في انتخابات 2024 الحاسمة التي تجري في أكثر من 40 دولة. تعد OpenAI وGoogle وMeta وAmazon وAdobe وX من بين الشركات التي انضمت إلى الاتفاقية لمنع ومكافحة المحتوى الناتج عن الذكاء الاصطناعي والذي يمكن أن يؤثر على الناخبين. ومع ذلك، فإن اللغة الغامضة للاتفاقية والافتقار إلى التنفيذ الملزم يدعوان إلى التساؤل عما إذا كانت ستذهب إلى حد كافٍ.
تتضمن قائمة الشركات الموقعة على “اتفاق التكنولوجيا لمكافحة الاستخدام الخادع للذكاء الاصطناعي في انتخابات 2024” تلك التي تنشئ نماذج الذكاء الاصطناعي وتوزعها، بالإضافة إلى المنصات الاجتماعية التي من المرجح أن تظهر فيها التزييفات العميقة. الموقعون هم Adobe، Amazon، Anthropic، Arm، ElevenLabs، Google، IBM، Inflection AI، LinkedIn، McAfee، Meta، Microsoft، Nota، OpenAI، Snap Inc.، Stability AI، TikTok، Trend Micro، Truepic وX (تويتر سابقًا). ).
وتصف المجموعة الاتفاقية بأنها “مجموعة من الالتزامات لنشر التكنولوجيا لمواجهة المحتوى الضار الناتج عن الذكاء الاصطناعي والذي يهدف إلى خداع الناخبين”. وقد وافق الموقعون على الالتزامات الثمانية التالية:
-
تطوير وتنفيذ التكنولوجيا للتخفيف من المخاطر المتعلقة بمحتوى انتخابات الذكاء الاصطناعي الخادع، بما في ذلك الأدوات مفتوحة المصدر حيثما كان ذلك مناسبًا
-
تقييم النماذج في نطاق هذه الاتفاقية لفهم المخاطر التي قد تمثلها فيما يتعلق بالمحتوى الانتخابي المخادع للذكاء الاصطناعي
-
يسعون لكشف توزيع هذا المحتوى على منصاتهم
-
السعي لمعالجة هذا المحتوى المكتشف على منصاتهم بشكل مناسب
-
تعزيز المرونة عبر الصناعة في مواجهة المحتوى الانتخابي المخادع للذكاء الاصطناعي
-
توفير الشفافية للجمهور فيما يتعلق بكيفية تعامل الشركة معه
-
الاستمرار في التعامل مع مجموعة متنوعة من منظمات المجتمع المدني العالمية والأكاديميين
-
دعم الجهود الرامية إلى تعزيز الوعي العام ومحو الأمية الإعلامية وقدرة المجتمع على الصمود
سيتم تطبيق الاتفاقية على الصوت والفيديو والصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. ويتناول المحتوى الذي “يزيف أو يغير بشكل مخادع مظهر أو صوت أو تصرفات المرشحين السياسيين ومسؤولي الانتخابات وغيرهم من أصحاب المصلحة الرئيسيين في انتخابات ديمقراطية، أو الذي يقدم معلومات كاذبة للناخبين حول متى وأين وكيف يمكنهم التصويت. “
يقول الموقعون إنهم سيعملون معًا لإنشاء ومشاركة الأدوات لاكتشاف ومعالجة توزيع التزييف العميق عبر الإنترنت. بالإضافة إلى ذلك، يخططون لقيادة الحملات التعليمية و”توفير الشفافية” للمستخدمين.
لقد صرح بذلك OpenAI، أحد الموقعين، الشهر الماضي خطط لقمع المعلومات الخاطئة المتعلقة بالانتخابات في جميع أنحاء العالم. الصور التي تم إنشاؤها باستخدام الشركة دال-E 3 سيتم تشفير الأداة باستخدام مصنف يوفر علامة مائية رقمية لتوضيح أصلها كصور تم إنشاؤها بواسطة الذكاء الاصطناعي. ال ChatGPT وقالت الشركة المصنعة إنها ستعمل أيضًا مع الصحفيين والباحثين والمنصات للحصول على تعليقات حول مُصنف مصدرها. وتخطط أيضًا لمنع روبوتات الدردشة من انتحال هوية المرشحين.
وكتبت آنا ماكانجو، نائبة رئيس الشؤون العالمية في OpenAI، في البيان الصحفي المشترك للمجموعة: “نحن ملتزمون بحماية نزاهة الانتخابات من خلال تطبيق السياسات التي تمنع إساءة الاستخدام وتحسين الشفافية حول المحتوى الناتج عن الذكاء الاصطناعي”. “نحن نتطلع إلى العمل مع شركاء الصناعة وقادة المجتمع المدني والحكومات في جميع أنحاء العالم للمساعدة في حماية الانتخابات من الاستخدام الخادع للذكاء الاصطناعي.”
ومن أبرز الغائبين عن القائمة شركة Midjourney، الشركة التي لديها مولد صور يعمل بالذكاء الاصطناعي (يحمل نفس الاسم) والتي تنتج حاليًا بعض الصور المزيفة الأكثر إقناعًا. ومع ذلك، قالت الشركة في وقت سابق من هذا الشهر إنها ستفعل ذلك النظر في حظر الأجيال السياسية تماما خلال موسم الانتخابات. في العام الماضي، تم استخدام Midjourney ل إنشاء صورة وهمية فيروسية للبابا بنديكتوس السادس عشر يتبختر بشكل غير متوقع في الشارع مرتديًا سترة بيضاء منتفخة. أحد أقرب المنافسين لـ Midjourney، Stability AI (صانعو المصادر المفتوحة انتشار مستقر)، شاركت. اتصلت Engadget بـ Midjourney للتعليق على غيابها، وسنقوم بتحديث هذه المقالة إذا سمعنا ردًا.
شركة أبل فقط هي الغائبة بين “الخمسة الكبار” في وادي السليكون. ومع ذلك، يمكن تفسير ذلك من خلال حقيقة أن صانع iPhone لم يطلق بعد أي منتجات ذكاء اصطناعي توليدية، ولا يستضيف منصة وسائط اجتماعية يمكن من خلالها توزيع التزييف العميق. وبغض النظر عن ذلك، فقد اتصلنا بشركة Apple للعلاقات العامة للتوضيح ولكننا لم نتلق ردًا حتى وقت النشر.
على الرغم من أن المبادئ العامة التي اتفقت عليها الشركات العشرين تبدو وكأنها بداية واعدة، يبقى أن نرى ما إذا كانت مجموعة فضفاضة من الاتفاقيات دون إنفاذ ملزم ستكون كافية لمكافحة سيناريو كابوس حيث تستخدم الجهات الفاعلة السيئة في العالم الذكاء الاصطناعي التوليدي للتأثير على الرأي العام والتأثير على الرأي العام. انتخاب مرشحين مناهضين للديمقراطية بقوة – في الولايات المتحدة وأماكن أخرى.
وقالت راشيل أوري، المديرة المساعدة الأولى لمشروع الانتخابات في مركز السياسات الحزبية: “اللغة ليست قوية تمامًا كما كان يتوقع المرء”. أخبر وكالة أسوشيتد برس يوم الجمعة. “أعتقد أننا يجب أن نمنح الائتمان عند استحقاقه، ونعترف بأن الشركات لديها مصلحة راسخة في عدم استخدام أدواتها لتقويض الانتخابات الحرة والنزيهة. ومع ذلك، فهو طوعي، وسنراقب ما إذا كانوا سيتابعون ذلك أم لا.
لقد تم بالفعل استخدام تقنية التزييف العميق التي أنشأها الذكاء الاصطناعي في الانتخابات الرئاسية الأمريكية. في وقت مبكر من أبريل 2023، نشرت اللجنة الوطنية للحزب الجمهوري (RNC) إعلانًا باستخدام صور تم إنشاؤها بواسطة الذكاء الاصطناعي للرئيس جو بايدن ونائب الرئيس كامالا هاريس. تبعتها حملة رون ديسانتيس، الذي انسحب منذ ذلك الحين من الانتخابات التمهيدية للحزب الجمهوري صور تم إنشاؤها بواسطة الذكاء الاصطناعي للمنافس والمرشح المحتمل دونالد ترامب في يونيو 2023. تضمن كلاهما إخلاء مسؤولية يسهل تفويته بأن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي.
في يناير، أ تقنية التزييف العميق لصوت الرئيس بايدن التي أنشأها الذكاء الاصطناعي تم استخدامه من قبل شركتين مقرهما تكساس للاتصال الآلي بالناخبين في نيو هامبشاير، وحثهم على عدم التصويت في الانتخابات التمهيدية بالولاية في 23 يناير. تم إنشاء المقطع باستخدام أداة استنساخ الصوت من ElevenLabs، وصلت إلى ما يصل إلى 25000 ناخب في نيو هامبشاير، بحسب المدعي العام للولاية. ElevenLabs من بين الموقعين على الاتفاقية.
تصرفت لجنة الاتصالات الفيدرالية (FCC) بسرعة لمنع المزيد من إساءة استخدام تقنية استنساخ الصوت في مكالمات الحملات الانتخابية المزيفة. في وقت سابق من هذا الشهر، صوتوا بالإجماع على حظر المكالمات الآلية التي ينشئها الذكاء الاصطناعي. لم يصدر الكونجرس الأمريكي (الذي يبدو أنه وصل إلى طريق مسدود إلى الأبد) أي تشريع بشأن الذكاء الاصطناعي. في ديسمبر/كانون الأول، الاتحاد الأوروبي. وافق على مشروع قانون موسع لتطوير السلامة بموجب قانون الذكاء الاصطناعي والتي يمكن أن تؤثر على الجهود التنظيمية للدول الأخرى.
كتب نائب رئيس Microsoft ورئيسها براد سميث في بيان صحفي: “بينما يحتضن المجتمع فوائد الذكاء الاصطناعي، فإننا نتحمل مسؤولية المساعدة في ضمان عدم استخدام هذه الأدوات كسلاح في الانتخابات”. “لم يخلق الذكاء الاصطناعي خداعًا انتخابيًا، ولكن يجب علينا التأكد من أنه لا يساعد في ازدهار الخداع.”