إحاطة حول الذكاء الاصطناعي: كيف تتعامل حكومات الولايات والشركات مع عمليات التزييف العميق للذكاء الاصطناعي

“من الأهمية بمكان أن يتمتع المستهلكون بالحق في معرفة ما إذا كان المنتج قد تم إنشاؤه بواسطة الذكاء الاصطناعي”، عضو مجلس الشيوخ في ولاية كاليفورنيا جوش بيكر، مشروع القانون راعيوقال في بيان: “في مناقشاتي مع الخبراء، أصبح من الواضح بشكل متزايد أن القدرة على توزيع محتوى عالي الجودة تم إنشاؤه بواسطة الذكاء الاصطناعي تثير مخاوف بشأن إساءة استخدامه المحتملة. يمكن استخدام الصور والصوت والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي لنشر معلومات مضللة سياسية وإنشاء مقاطع فيديو مزيفة”.

لقد أقرت أكثر من اثنتي عشرة ولاية قوانين تنظم استخدام الذكاء الاصطناعي في الإعلانات السياسية، مع وجود ما لا يقل عن اثني عشر مشروع قانون آخر قيد الدراسة في ولايات أخرى. وتتطلب بعض الولايات، بما في ذلك نيويورك وفلوريدا وويسكونسن، أن تتضمن الإعلانات السياسية إفصاحات إذا تم إنتاجها باستخدام الذكاء الاصطناعي. وتتطلب ولايات أخرى، مثل مينيسوتا وأريزونا وواشنطن، إخلاء المسؤولية عن الذكاء الاصطناعي في غضون فترة زمنية معينة قبل الانتخابات. ومع ذلك، فإن ولايات أخرى، بما في ذلك ألاباما وتكساس، لديها حظر أوسع على الرسائل السياسية الخادعة بغض النظر عما إذا كان يتم استخدام الذكاء الاصطناعي أم لا.

توجد في بعض الولايات فرق جاهزة للكشف عن المعلومات المضللة من الذكاء الاصطناعي والمصادر الأخرى ومعالجتها. في ولاية واشنطن، يوجد لدى مكتب وزير الخارجية فريق جاهز لمسح وسائل التواصل الاجتماعي بحثًا عن المعلومات المضللة، وفقًا لوزير الخارجية ستيف هوبز. كما تعمل الولاية حاليًا على تنفيذ مشروع كبير حملة تسويقية لتثقيف الناس حول كيفية عمل الانتخابات وأين يمكن العثور على معلومات موثوقة.

وفي مقابلة أجريت معه في أغسطس/آب مع Digiday، قال هوبز إن الحملة ستتضمن معلومات حول تزييف عميق وقال إن مكتبه يعمل أيضًا مع شركاء خارجيين مثل شركة Logically الناشئة لتتبع الروايات الكاذبة ومعالجتها قبل أن تصل إلى الكتلة الحرجة.

“عندما تتعامل مع دولة قومية تمتلك كل هذه الموارد، فسوف تبدو مقنعة، مقنعة حقًا”، كما قال هوبز. “لا تكن روبوتًا لبوتن. هذا ما يحدث في النهاية. تتلقى رسالة، وتشاركها. خمن ماذا؟ أنت روبوت لبوتن”.

بعد روبوت المحادثة Grok AI الخاص بـ X شارك معلومات انتخابية كاذبة مع ملايين المستخدمينأرسل هوبز وأربعة وزراء خارجية آخرون رسالة إلى رسالة مفتوحة في الشهر الماضي، طلبوا من إيلون ماسك إجراء تغييرات فورية. كما طلبوا من X أن يرسل Grok المستخدمين إلى موقع معلومات الانتخابات غير الحزبية، كانيفوت.أورج، وهو التغيير الذي أجرته OpenAI بالفعل لـ ChatGPT.

يبدو أن عمليات التزييف العميق باستخدام الذكاء الاصطناعي في تزايد على مستوى العالم. تضاعفت الحالات في اليابان في الربع الأول من عام 2024، وفقًا لـ نيكاي، مع عمليات احتيال تتراوح من رسائل البريد الإلكتروني الاحتيالية النصية إلى مقاطع الفيديو على وسائل التواصل الاجتماعي التي تعرض لقطات بث مزيفة. وفي الوقت نفسه، أعلنت شركة التحليلات البريطانية بيضاوي الشكل تم العثور على أمثلة لعمليات احتيال ذات صلة بالسياسة تم إنشاؤها بواسطة الذكاء الاصطناعي تستهدف مستخدمي العملات المشفرة.

أدوات الذكاء الاصطناعي الجديدة لتحديد التزييفات العميقة

كما طرحت شركات الأمن السيبراني أدوات جديدة لمساعدة المستهلكين والشركات على اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل أفضل. أحد هذه الأدوات هو Pindrop، الذي ساعد يكشف ال مكالمات آلية تم إنشاؤها بواسطة الذكاء الاصطناعي تشبه الرئيس جو بايدن خلال الانتخابات التمهيدية في نيو هامبشاير. يسمح تطبيق Pulse Inspect الجديد من Pindrop، والذي تم إطلاقه في منتصف أغسطس، للمستخدمين بتحميل الصوت للكشف عما إذا كان قد تم استخدام صوت اصطناعي وأين تم اكتشافه في الملف.

ومن بين المستخدمين الأوائل لخدمة Pulse Inspect شركة YouMail، وهي خدمة للبريد الصوتي المرئي وحظر المكالمات الآلية؛ وTrueMedia، وهي منظمة غير حزبية غير ربحية تركز على مكافحة التضليل باستخدام الذكاء الاصطناعي؛ ومنصة إنشاء الصوت باستخدام الذكاء الاصطناعي Respeecher.

وتتضمن الأدوات الجديدة الأخرى أداة من Attestiv، التي أصدرت نسخة مجانية الشهر الماضي للمستهلكين والشركات. وتأتي أداة أخرى من McAfee، التي أعلنت الأسبوع الماضي عن شراكة مع Lenovo لدمج أداة Deepfake Detector من McAfee في أجهزة الكمبيوتر AI الجديدة من Lenovo باستخدام منصة Copilot من Microsoft.

وفق المدير التقني لشركة ماكافي ستيف جروبمانتساعد الأداة الأشخاص على تحليل محتوى الفيديو والصوت في الوقت الفعلي عبر معظم المنصات بما في ذلك YouTube وX وFacebook وInstagram. وقال جروبمان لموقع Digiday إن الهدف هو منح الأشخاص أداة “لمساعدة المستخدم على سماع أشياء قد يكون من الصعب عليه سماعها”، مضيفًا أن هذا مهم بشكل خاص مع قلق المستهلكين بشأن المعلومات المضللة خلال الموسم السياسي.

قال جروبمان: “إذا تم وضع علامة على الفيديو، فسنضع إحدى هذه اللافتات الصغيرة، “تم اكتشاف صوت الذكاء الاصطناعي”، وإذا نقرت عليها، يمكنك الحصول على بعض المعلومات الإضافية. سنعرض بعد ذلك رسمًا بيانيًا يوضح المكان في الفيديو الذي بدأنا فيه اكتشاف الذكاء الاصطناعي وسنعرض بعض الإحصائيات”.

وأضاف جروبمان أنه بدلاً من تحميل المقاطع إلى السحابة، يعمل التحليل على الجهاز على تحسين السرعة وخصوصية المستخدم وعرض النطاق الترددي. ويمكن أيضًا تحديث البرنامج مع تحسن نماذج McAfee ومع تطور محتوى الذكاء الاصطناعي للتهرب من الاكتشاف. كما أطلقت McAfee موردًا جديدًا عبر الإنترنت يسمى Smart AI Hub، والذي يهدف إلى تثقيف الناس حول المعلومات المضللة للذكاء الاصطناعي مع جمع أمثلة على التزييف العميق من الجمهور.

وبحسب استطلاع رأي المستهلكين الذي أجرته شركة McAfee في وقت سابق من هذا العام حول مخاوف الذكاء الاصطناعي، ذكر 43% من المستهلكين في الولايات المتحدة الانتخابات، وأعرب 37% عن قلقهم بشأن تقويض الذكاء الاصطناعي للثقة العامة في وسائل الإعلام، وأعرب 56% عن قلقهم بشأن عمليات الاحتيال التي يسهلها الذكاء الاصطناعي.

المطالبات والمنتجات — أخبار وإعلانات الذكاء الاصطناعي

• أضافت جوجل ميزات ذكاء اصطناعي توليدية جديدة للمعلنين بما في ذلك أدوات لإعلانات التسوق. وفي الوقت نفسه، قامت شركة الاستشارات البحثية السلطات تم العثور على ميزة نظرة عامة على الذكاء الاصطناعي من Google يؤثر بالفعل على ظهور بحث الناشر.
• ميتا قال وقد شهدت نماذج Llama AI نموًا بمقدار 10 أضعاف منذ عام 2023، حيث بلغ إجمالي التنزيلات ما يقرب من 350 مليونًا و20 مليونًا في الشهر الماضي فقط. ومن أمثلة الشركات التي تستخدم Llama AT&T وSpotify وNiantic وDoorDash وShopify.
• وفقًا لـ Apple، يختار الناشرون والمنصات الكبرى عدم المشاركة في جهود كشط الذكاء الاصطناعي الخاصة بـ Apple سلكي.
• أطلقت Adobe ميزة Workfront جديدة لمساعدة المسوقين في التخطيط للحملات.
• قدمت شركة Yelp دعوى جديدة لمكافحة الاحتكار دعوى قضائية ضد جوجل، التي تدعي أن جوجل تستخدم أدوات الذكاء الاصطناعي الخاصة بها لمنحها ميزة إضافية.
• استدعى النائب الأمريكي جيم جوردان شركة Authentic الناشئة للإعلانات السياسية التي تستخدم الذكاء الاصطناعي، والتي توظف ابنة القاضي الذي أشرف على محاكمة دونالد ترامب. وانتقد مؤسس الشركة الناشئة تحرك جوردان ووصفه بأنه “إساءة استخدام للسلطة” وترويج “نظرية مؤامرة يمينية لا أساس لها”.
• أبل و Nvidia هما يقال في محادثات للاستثمار في OpenAI، والتي يقال إنها تجمع المزيد من التمويل. كما أعلنت Nvidia عن أرباحها الفصلية الأسبوع الماضي، حيث تم ذكر الإعلان كواحد من الصناعات التي تدفع الطلب.
• نشرت شركة Anthropic قائمة بمطالبات نظامها لعائلة Claude من النماذج بهدف توفير المزيد من الشفافية للمستخدمين والباحثين.

جلسة أسئلة وأجوبة مع وزير خارجية ولاية واشنطن ستيف هوبز

في مقابلة أجريت في أغسطس/آب مع Digiday، تحدث وزير خارجية ولاية واشنطن ستيف هوبز عن حملة جديدة لتعزيز ثقة الناخبين. كما تحدث عن بعض الجهود الأخرى الجارية بما في ذلك كيفية استخدام الولاية للذكاء الاصطناعي لمكافحة المعلومات المضللة، ولماذا يريد تنظيم محتوى الذكاء الاصطناعي بشكل أكبر، وأهمية معرفة الناخبين لمكان العثور على معلومات دقيقة للتحقق من الحقائق. فيما يلي بعض المقتطفات من المحادثة.

كيف تستخدم واشنطن الذكاء الاصطناعي لتتبع المعلومات المضللة

“نحن فقط نبلغ الناس بالحقيقة حول الانتخابات. نستخدم أيضًا Logically AI للعثور على التهديدات ضد العاملين في الانتخابات. لذلك تلقيت تهديدًا ضدي. لقد سلمنا جهة أجنبية محتملة، وهي جهة تابعة لدولة كانت تعمل على نشر معلومات مضللة. لذا فهي أداة يجب أن نمتلكها. أعلم أن هناك انتقادات موجهة إليها، لكن البديل بالنسبة لي هو توظيف 100 شخص للنظر في الإنترنت أو وسائل التواصل الاجتماعي، أو الانتظار حتى تصل الرواية إلى الكتلة الحرجة. وبحلول ذلك الوقت يكون الأوان قد فات”.

حول تنظيم منصات الذكاء الاصطناعي والمحتوى

“يجب أن تكون منصات التواصل الاجتماعي مسؤولة. يجب أن تعرف من أين تأتي أموالها. من هو هذا الشخص الذي يعطيني المال لتشغيل هذا الإعلان؟ وهل هذا تزوير عميق؟ لا أعرف ما إذا كانوا سيكتشفون ذلك. هناك مسؤولية هنا. يجب عليهم حقًا أن يتدخلوا. آمل أن تمرر الحكومة الفيدرالية مشروع قانون لمحاسبتهم.”

لماذا يجب على الناخبين التحقق من كل شيء

“عندما يتعلق الأمر بوسائل التواصل الاجتماعي والأخبار التي تحصل عليها من وسائل التواصل الاجتماعي، توقف قليلًا. تحقق من هوية هذا الشخص. هل هو روبوت؟ هل هو شخص حقيقي والمعلومات التي تحصل عليها قابلة للتحقق؟ هل يمكنك رؤيتها على مصادر إخبارية أخرى؟ هل هي مدعومة بمصادر أخرى؟ [Americans] “إنهم الهدف الأول للجهات الفاعلة في الدولة القومية. إنهم يريدون منك أن تأخذ معلوماتهم وتشاركها على الفور وتنشرها على الفور… لا تكن هدفًا.”

قصص أخرى متعلقة بالذكاء الاصطناعي من جميع أنحاء Digiday

• كيف تستخدم IBM وبطولة الولايات المتحدة المفتوحة نظام Watsonx لإنشاء المزيد من محتوى التنس الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي
• إحاطة إعلامية: مسرد المصطلحات الإعلامية لعام 2024، الجزء الثاني
• بفضل الاهتمام الرياضي والذكاء الاصطناعي، توسع Stagwell منصة الواقع المعزز من خلال أول شراكة مع MLS
• وسط تسريحات العمال وخفض التكاليف، تتوقع الرئيسة التنفيذية لشركة تايم جيسيكا سيبيلي “نصفًا ثانيًا قويًا للغاية”
• تريد Duolingo أن تجعل تميمة البومة الخضراء الخاصة بها “مشهورة مثل Pikachu” من خلال متجرها المؤقت الأول

https://digiday.com/?p=553995