الوجبات الرئيسية
- مع Google’s VEO3 ، يمكنك الآن تقديم مقاطع فيديو صوتية وصوت وخلفية.
- هذا من شأنه أن يجعل من السهل على المحتالين تصميم عمليات احتيال Deepfake للاحتيال على المواطنين الأبرياء.
- يحتاج المستخدمون إلى ممارسة الصيانة الذاتية لحماية أنفسهم. كما ستلعب مسؤوليات المطورين واللوائح الحكومية دورًا رئيسيًا.
أطلقت Google مؤخرًا”https://deepmind.google/models/veo/” الهدف=”_blank” rel=”noreferrer noopener dofollow”> VEO3، أداة AI تتيح لك إنشاء مقاطع فيديو مع الصوت ، بما في ذلك مسارات الخلفية والمؤثرات الصوتية المختلفة. حتى وقت قريب ، يمكنك إما استخدام تطبيقات الاستنساخ الصوتي لإنشاء أصوات منظمة العفو الدولية أو تطبيقات تقديم الفيديو لإنشاء مقاطع فيديو منظمة العفو الدولية. ومع ذلك ، بفضل VEO3 ، يمكن للناس الآن إنشاء مقاطع فيديو كاملة مع الصوت.
على الرغم من أن هذا تطور مثير ، إلا أنه لا يسعنا إلا أن نفكر في مدى سهولة المحتالين والمحتالين لاستخدام مقاطع فيديو VEO3 لعملية الاحتيال.
مقطع فيديو نشره مستخدم”_blank” rel=”noreferrer noopener dofollow” HREF=”https://www.threads.com/@esqueer_?xmt=AQF0P8R-Bahfjc6xateus7AWbfIgfx_5EwNXUxqAZQMsXw”>المواضيع يعرض مذيع تلفزيون يكسر الأخبار التي ‘توفي وزير الدفاع بيت هيغسيث بعد شرب لتر كامل من الفودكا على يجرؤ من قبل RFK‘ للوهلة الأولى ، فإن الفيديو مقنع للغاية ، والفرص هي أن عددًا قليلاً من الناس قد يصدقون ذلك. بعد كل شيء ، الجودة هي استوديو الأخبار المحترف مع خلفية البنتاغون.
قام مستخدم آخر يدعى Ari Kuschnir بنشر مدتها 16 ثانية”https://www.reddit.com/r/ChatGPT/comments/1krmsns/wtf_ai_videos_can_have_sound_now_all_from_one/?rdt=33620″ الهدف=”_blank” rel=”noopener dofollow”>فيديو على رديتإظهار شخصيات مختلفة في إعدادات مختلفة تتحدث مع بعضها البعض بلهجات مختلفة. تعبيرات الوجه قريبة جدًا من تعبيرات الإنسان الحقيقي.
علق مستخدم ، ‘رائع. الأشياء القادمة. سوف تكون برية!الجزء “البري” هو أن الفجوة بين الواقع والمحتوى الذي تم إنشاؤه من الذكاء الاصطناعي يغلق يوميًا. وتذكر أن هذا ليس سوى الإصدار الأول من هذه التكنولوجيا الجديدة-الأمور ستزداد سوءًا (أسوأ) من هنا.
عصر الذكاء الاصطناعي الجديد للمخادعين
مع تطور الذكاء الاصطناعى التوليدي ، رأينا بالفعل أمثلة لا حصر لها من الأشخاص الذين يفقدون الملايين لمثل هذه الاحتيال.
على سبيل المثال ، في يناير 2024 ، أرسل موظف في شركة هونغ كونغ 25 مليون دولار إلى المحتالين الذين أقنعوا الموظفة بأنها كانت تتحدث إلى المدير المالي للشركة في مكالمة فيديو. توقع مركز Deloitte للخدمات المالية أن يؤدي الذكاء الاصطناعى التوليدي إلى أ”_blank” rel=”noreferrer noopener dofollow” HREF=”https://www2.deloitte.com/us/en/insights/industry/financial-services/financial-services-industry-predictions/2024/deepfake-banking-fraud-risk-on-the-rise.html”>خسارة 40 مليار دولار في الولايات المتحدة وحدها بحلول عام 2027 ، ينمو بمعدل نمو سنوي مالي بنسبة 32 ٪.
حتى الآن ، كان على المحتالين أيضًا بذل جهد توليد الصوت والفيديو بشكل منفصل ومزامنةهما لتجميع A ‘معقول ‘فيديو. ومع ذلك ، فإن أدوات AI المتقدمة مثل VEO3 تجعل من السهل على الممثلين السيئين الالتحاق بالأفائقين الأبرياء.
في ما يسمى أكبر عملية احتيال على الإنترنت حتى الآن ، خسر متقاعد يبلغ من العمر 82 عامًا ، ستيف بوشامب ، 690،000 دولار بعد أن استثمر مدخراته التقاعد في مخطط استثماري. أظهر مقطع الفيديو الذي تم إنشاؤه من الذكاء الاصطناعى إيلون موسك يتحدث عن هذا الاستثمار وكيف يجب أن يستثمر كل من يتطلع إلى كسب المال في المخطط.
في يناير 2024 ، انتشرت الصور الجنسية الصريحة لتايلور سويفت على وسائل التواصل الاجتماعي ، حيث لفتت الانتباه التشريعي إلى هذه المسألة. الآن ، تخيل ما يمكن أن يفعله هؤلاء المحتالون من خلال التكنولوجيا التي تشبه VEO3. سيصبح جعل الاباحية DeepFake أسهل وأسرع ، مما يؤدي إلى الكثير من حالات الابتزاز.
ومع ذلك ، تجدر الإشارة إلى أننا لا نقول أنه سيتم استخدام VEO3 على وجه التحديد في مثل هذه الأنشطة الإجرامية لأن لديهم العديد من الضمانات. ومع ذلك ، الآن بعد أن أظهر VEO3 المسار ، قد يتم تطوير منتجات مماثلة أخرى لحالات الاستخدام الخبيثة.
كيف تحمي نفسك
تعد الحماية ضد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى منهجًا متعدد الأوجه يتضمن ثلاثة أعمدة رئيسية: التهدئة الذاتية ، ومسؤوليات المطورين ، واللوائح الحكومية.
اليقظة الذاتية
حسنًا ، ليس من المستحيل تمامًا معرفة الفيديو الذي تم إجراؤه عبر الذكاء الاصطناعي والذي هو أصلي. بالتأكيد ، نمت الذكاء الاصطناعى قفزات وحدود في العامين الماضيين ، ولدينا شيء متقدم مثل VEO3. ومع ذلك ، لا يزال هناك عدد قليل من العلامات المحفورة على مقطع فيديو تم إنشاؤه من الذكاء الاصطناعى.
- أكبر الهبة هي مزامنة الشفاه. إذا رأيت مقطع فيديو لشخص يتحدث ، انتبه عن كثب إلى شفاهه. سيكون الصوت في معظم الحالات غير متزامن ببضع مللي ثانية.
- الصوت ، في معظم الحالات ، سوف يبدو أيضًا روبوتيًا أو مسطحًا. قد تكون النغمة والملعب غير متناسقين دون أي أصوات تنفس طبيعية.
نوصي أيضًا بالثقة فقط في مصادر المعلومات الرسمية وليس أي فيديو عشوائي تجده أثناء تمرير Instagram أو YouTube أو Tiktok. على سبيل المثال ، إذا رأيت Elon Musk يروج لنظام الاستثمار ، فابحث عن الصفحة الرسمية أو موقع الويب لهذا المخطط وحفر أعمق لمعرفة من هم المروجون الفعليون.
لن تجد أي شيء موثوق به أو جدير بالثقة في هذه العملية. يستغرق هذا التمرين بضع دقائق فقط ولكن قد ينتهي به الأمر إلى توفير آلاف الدولارات.
مسؤوليات المطور
يتحمل مطورو الذكاء الاصطناعى أيضًا مسؤولية ضمان إساءة استخدام منتجاتهم للاحتيال والابتزاز والمعلومات الخاطئة. على سبيل المثال ، تطالب كتل VEO3 التي تنتهك إرشادات الذكاء الاصطناعي المسؤولة ، مثل تلك التي تنطوي على السياسيين أو الأفعال العنيفة.
قامت Google أيضًا بتطوير نظام العلامات المائية Synthid ، والذي تم إنشاؤه باستخدام أدوات AI من Google. يمكن للناس استخدام”https://techreport.com/news/google-synthid-detector/” الهدف=”_blank” rel=”noreferrer noopener dofollow”>كاشف سينثييد للتحقق مما إذا تم إنشاء محتوى معين باستخدام الذكاء الاصطناعي.
ومع ذلك ، فإن هذه الضمانات تقتصر حاليًا على منتجات Google حتى الآن. هناك حاجة لأنظمة الوقاية المماثلة ، إن لم تكن أفضل ، للمضي قدمًا.
اللوائح الحكومية
أخيرًا ، تحتاج الحكومة إلى لعب دور حاسم في تنظيم استخدام الذكاء الاصطناعي. على سبيل المثال ، أقر الاتحاد الأوروبي بالفعل قانون الذكاء الاصطناعى ، مع بدء التنفيذ في عام 2025. في ظل هذا ، يجب على الشركات الخضوع للوثائق الصارمة والشفافية والرقابة لجميع أنظمة الذكاء الاصطناعى عالية الخطورة.
حتى في الولايات المتحدة ، هناك العديد من القوانين تحت الاقتراح. على سبيل المثال ، و”_blank” rel=”noreferrer noopener dofollow” HREF=”https://www.congress.gov/bill/118th-congress/house-bill/5586/text”>قانون المساءلة DeepFakes سيتطلب محتوى تم إنشاؤه من الذكاء الاصطناعى والذي يوضح لأي شخص تضمين إخلاء واضح يفيد أنه عميق. تم تقديم مشروع القانون في مجلس النواب في سبتمبر 2023 وهو قيد الدراسة حاليًا.
وبالمثل ، فإن”_blank” rel=”noreferrer noopener dofollow” HREF=”https://www.congress.gov/bill/118th-congress/house-bill/3044″>قانون الإعلانات السياسية الحقيقية سوف تتطلب إعلانات سياسية تحتوي على محتوى الذكاء الاصطناعي لتشمل إخلاء مسئولية مماثل.
ومع ذلك ، ما زلنا فقط في المراحل المبكرة من صياغة التشريعات لتنظيم محتوى الذكاء الاصطناعي. مع مرور الوقت ، مع تطور أدوات الذكاء الاصطناعي الأكثر تطوراً ومرقلاً ، يجب أن يكون المشرعون أيضًا استباقيين في ضمان السلامة الرقمية.
Krishi هو صحفي تقني محنك يتمتع بأكثر من أربع سنوات من الخبرة في الكتابة عن أجهزة الكمبيوتر الشخصي وتكنولوجيا المستهلك والذكاء الاصطناعي. الوضوح وإمكانية الوصول هما في صميم أسلوب الكتابة في كريشي. إنه يعتقد أن الكتابة التكنولوجية يجب أن تمكّن القراء – لا تخلط بينهم – ويلتزم بضمان أن يكون محتوىه دائمًا سهلاً الفهم دون التضحية بالدقة أو العمق. على مر السنين ، ساهم كريشي في بعض الأسماء الأكثر شهرة في هذه الصناعة ، بما في ذلك Techopedia و TechRadar و Tom’s Guide. رجل من العديد من المواهب ، أثبت كريشي أيضًا رفعه ككاتب تشفير ، ويتعامل مع مواضيع معقدة بكل من سهولة وحماس. يمتد عمله التنسيقات المختلفة-من المفسرين المتعمرين والتغطية الإخبارية لإظهار القطع وشراء الأدلة. خلف الكواليس ، يعمل كريشي من إعداد مراقب مزدوج (بما في ذلك LG Ultrawide بحجم 29 بوصة) والذي يتصاعد دائمًا مع خلاصات الأخبار والوثائق الفنية والملاحظات البحثية ، وكذلك جلسات الألعاب العرضية التي تبقيه جديدًا. يزدهر كريشي على الحفاظ على حاليًا ، ومستعدًا دائمًا للغوص في أحدث الإعلانات ، وتحولات الصناعة ، وتأثيراتها بعيدة المدى. عندما لا يكون عميقًا في البحث عن آخر أخبار أجهزة الكمبيوتر الشخصي ، فإن كريشي يحب الدردشة معك حول التداول النهاري والأسواق المالية – أوه! والكريكيت ، كذلك.
تتركز سياسة تحرير التقارير التقنية على توفير محتوى مفيد ودقيق يوفر قيمة حقيقية لقرائنا. نحن نعمل فقط مع الكتاب ذوي الخبرة الذين لديهم معرفة محددة في الموضوعات التي يغطيونها ، بما في ذلك أحدث التطورات في التكنولوجيا والخصوصية عبر الإنترنت والعملات المشفرة والبرامج والمزيد. تضمن سياسة التحرير الخاصة بنا البحث عن كل موضوع وبراعته من قبل محررينا الداخليين. نحافظ على معايير صحفية صارمة ، وكل مقالة كتبها 100 ٪ من قبل مؤلفين حقيقيين.