إحاطة الذكاء الاصطناعي: تتخذ لجنة التجارة الفيدرالية إجراءات صارمة ضد أساليب التسويق الخادعة والمراجعات المزيفة

وقالت لينا خان، رئيسة لجنة التجارة الفيدرالية، في بيان: “إن استخدام أدوات الذكاء الاصطناعي لخداع الناس أو تضليلهم أو الاحتيال عليهم أمر غير قانوني”. “توضح إجراءات الإنفاذ التي اتخذتها لجنة التجارة الفيدرالية أنه لا يوجد استثناء للذكاء الاصطناعي من القوانين الواردة في الكتب. ومن خلال اتخاذ إجراءات صارمة ضد الممارسات غير العادلة أو الخادعة في هذه الأسواق، تضمن لجنة التجارة الفيدرالية (FTC) حصول الشركات الصادقة والمبتكرين على فرصة عادلة وحماية المستهلكين.

أما بالنسبة للوائح الوكالة الجديدة للمراجعات المزيفة، فقد تمت الموافقة على التحديثات الشهر الماضي وستدخل حيز التنفيذ في 24 أكتوبر. تعمل القواعد على تحديث الحظر الحالي على المراجعات المزيفة بطرق تهدف إلى توضيح وتعزيز وإنفاذ القوانين لحماية المستهلكين وإضافة عقوبات جديدة. إلى جانب معالجة المراجعات المزيفة من المشاهير والموظفين والأشخاص العاديين والهويات المزيفة، تتناول التغييرات أيضًا المراجعات المزيفة التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي العامة، وهو ما يمثل خطرًا على المستهلكين والشركات والمعلومات عبر الإنترنت بشكل عام.

تنظم القواعد مواقع الشركات ومواقع المراجعة المستقلة ومنصات التواصل الاجتماعي والمحتوى الإعلاني وأنواع أخرى من المواد التسويقية. فيما يلي نظرة على ما تتناوله التغييرات، وما لا تتناوله، والمعلومات الأخرى التي يجب معرفتها قبل بدء التنفيذ في غضون بضعة أسابيع.

ما هي أنواع المراجعات المحظورة

تحدد القواعد الجديدة عدة أنواع من المراجعات المحظورة من قبل لجنة التجارة الفيدرالية (FTC). لا يجوز للشركات إنشاء أو شراء أو بيع مراجعات المستهلكين أو المشاهير التي تحريف تجربة المراجع. وتحظر القواعد أيضًا تقديم حوافز للمراجعات الإيجابية أو السلبية، وتمنع الشركات من المراجعات التي يجريها المديرون التنفيذيون أو الموظفون دون الإفصاح المناسب، وتقيد المراجعات المطلوبة من الأقارب. لا يجوز للشركات أيضًا تحريف قسم المراجعة على موقع الويب الخاص بها على أنه مستقل، ولا يمكنها تهديد المراجعين، ولا يمكنها شراء أو بيع تأثير مزيف في شكل متابعين أو عدد مرات المشاهدة بصفة تجارية.

“تسهل أدوات الذكاء الاصطناعي على الجهات الفاعلة السيئة تلويث نظام المراجعة البيئي من خلال إنشاء أعداد كبيرة بسرعة وبتكلفة زهيدة من المراجعات الواقعية ولكن المزيفة التي يمكن بعد ذلك توزيعها على نطاق واسع عبر منصات متعددة”، كما جاء في حاشية في النص النهائي للقواعد. “تغطي القاعدة النهائية المراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، والتي تأمل اللجنة أن تردع استخدام الذكاء الاصطناعي لهذا الغرض غير المشروع.”

وقالت ماري إنجل، نائبة الرئيس للسياسة في برامج BBB الوطنية، إن تحديثات لجنة التجارة الفيدرالية تساعد أيضًا في توضيح القواعد الحالية وتوحيدها في مجموعة أكثر تماسكًا. وقال إنجل، وهو عضو سابق في قسم الممارسات الإعلانية في لجنة التجارة الفيدرالية، إنه يبدو أن الوكالة تحاول التمييز بين “الممارسات الخاصة التي قد تكون دائمًا غير قانونية مقابل بعض الممارسات التي قد لا تكون دائمًا غير قانونية أو قد يكون من الصعب رسم الخط الفاصل بينها”. وبدلاً من ذلك، تتبع القواعد سلوكًا غير قانوني أو خادعًا بشكل واضح.

عندما يتعلق الأمر بالمحتوى الناتج عن الذكاء الاصطناعي، فإن نماذج اللغة الكبيرة تجعل من الصعب تحديد ما إذا كان شيء ما جزءًا من شبكة من المراجعات المزيفة المنظمة حول العالم. ومع ذلك، فإن الإفصاحات المناسبة تعتبر أيضًا أمرًا أساسيًا في المراجعات والإعلانات والأنواع الأخرى من المراجعات والتأييدات.

في حين قد يعتقد البعض أن الشركات ذات السمعة الطيبة تحاول تجنب التقييمات المزيفة لحماية علامتها التجارية، فإن هذا ليس هو الحال دائمًا. ومع ذلك، يعتقد إنجل أن خطر فرض غرامات أعلى والإضرار بالسمعة قد يحفز الشركات والمراجعين على الامتثال والحفاظ على حسن نيتهم ​​مع العملاء. وقالت: “أحد الأشياء اللطيفة في الإنترنت هو أنه سيتم اكتشاف الحقيقة حول التزييف، وبعد ذلك يمكن أن يشكل رد فعل عنيفًا”.

قال إنجل: “سبب أهمية هذه القواعد هو أن الجميع يعتمد على المراجعات”. “أنت في حاجة إليها لتكون ذات قيمة ومشروعة. ولكن نظرًا لأن الجميع يعتمد على المراجعات، فهناك حافز كبير لتزييفها أو تضخيمها بطريقة ما. أعتقد أن لجنة التجارة الفيدرالية تحاول التصدي للحوافز بحيث يحدث ذلك بشكل أقل تواترا.

المصادقة والإنفاذ ومخاطر الذكاء الاصطناعي

وقد أيدت شركات مثل Google وYelp أيضًا التغييرات، لكن بعض الخبراء لا يعتقدون أن التحديثات تذهب إلى حد كافٍ حتى لو كانت خطوة في الاتجاه الصحيح. وبدلاً من تنظيم وسائل التواصل الاجتماعي وعمالقة التجارة الإلكترونية، تمنع القواعد الشركات من إنشاء أو إجراء مراجعات مزيفة. إن وجود صناعة المراجعة المزيفة خارج قوانين الولايات المتحدة يخلق أيضًا تحديات تنظيمية.

وقال المحقق الجنائي السابق كاي دين، وهو الآن مؤسس موقع المراقبة Fake Review Watch: “السوق مشبع بالفعل بالعديد من المراجعات المزيفة عبر الإنترنت”. “مع ظهور الذكاء الاصطناعي، أتوقع أن تتفاقم المشكلة. لقد قمت بتجربة المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي ولم أتفاجأ برؤية مدى سهولة نشر المحتوى بسرعة. ومع ذلك، ليس من السهل الإشارة فعليًا إلى ما إذا كانت المراجعات المزيفة كتبها شخص حقيقي أو تم إنشاؤها بواسطة الذكاء الاصطناعي.

يقول البعض إن لجنة التجارة الفيدرالية ربما اختارت عدم تنظيم منصات الطرف الثالث لتجنب ذلك”https://digiday.com/media/wtf-is-section-230/”>المادة 230 مسائل فيما يتعلق بكيفية الحكومة”https://digiday.com/media/how-much-can-states-regulate-social-media-the-supreme-court-hears-cases-for-and-against/”> يسمح بتنظيم وسائل التواصل الاجتماعي. ومع ذلك، قال دين إنه لا يزال بإمكان لجنة التجارة الفيدرالية اتخاذ خطوات أخرى. على سبيل المثال، قالت إنه كان من الممكن أن تطلب من المنصات أن تُظهر للمستخدمين عدد المراجعات المزيفة أو الخادعة التي أزالتها تلك المنصة من صفحة عمل معين، وتحديد جميع المراجعين بشكل أكثر دقة، وتزويد المستخدمين بإمكانية الوصول إلى جميع المراجعات – بما في ذلك تلك التي تمت إزالتها.

وقالت: “هذه التوصيات وغيرها من التوصيات المحددة التي قدمتها إلى لجنة التجارة الفيدرالية، ستوفر المزيد من الشفافية للمستهلكين لمعرفة ما يحدث بالفعل”. “ألا تريد أن تعرف أن Google أو Yelp قد أزالا العشرات من المراجعات المزيفة لمقاول كنت تفكر في تعيينه لإكمال إعادة تشكيل المطبخ بقيمة 50 ألف دولار؟”

وقال مات شوارتز، محلل السياسات في مجلة كونسيومر ريبورتس، إن مجموعته الرقابية تدعم بشكل عام القواعد الجديدة. على الرغم من أن القواعد النهائية أزالت بعض النص المقترح في الأصل حول قضايا مثل المراجعات المسروقة على أمازون، إلا أنه يعتقد أن الشفافية الإضافية يمكن أن تتحسن، في حين أن العقوبات الأعلى قد تساعد في ردع الشركات عن كونها جهات فاعلة سيئة.

وقال شوارتز: “إن مسألة التنفيذ برمتها تحمل المفتاح”.

المطالبات والمنتجات – أخبار وإعلانات الذكاء الاصطناعي

• أعلنت Google عن تحديثات جديدة لبرنامج Gemini وكيف تستخدم مجموعة من الشركات نموذج اللغة الكبير لمختلف المنتجات والخدمات.
• غادر العديد من الأعضاء الرئيسيين في OpenAI الشركة، بما في ذلك CTO Mira Murati وكبار أعضاء فريق البحث. يقال إن الشركة الناشئة تبتعد عن نموذجها غير الربحي لتصبح شركة ربحية. (كما طرحت أيضًا ميزة الصوت المتقدمة الجديدة، والتي واجهت جدلاً هذا الربيع.)
• ميتا”https://digiday.com/media/at-meta-connect-a-host-of-new-mixed-reality-hardware-and-ai-updates-presented-by-ceo-mark-zuckerberg/”> لاول مرة مجموعة من تحديثات الذكاء الاصطناعي الجديدة في حدث Meta Connect السنوي بما في ذلك تحديثات Meta AI ونموذج Llama 3.2 الجديد وميزات جديدة لنظارات Meta Ray Ban الذكية.
• بدء تشغيل الكشف عن التزييف العميق”https://www.realitydefender.com/blog/tracking-the-next-40-days-of-election-deepfakes?utm_content=309217839&utm_medium=social&utm_source=linkedin&hss_channel=lcp-74249995″ الهدف=”_blank” rel=”noreferrer noopener”> المدافع عن الواقع و”https://www.realitydefender.com/blog/intel-deepfake-detection?utm_content=309130271&utm_medium=social&utm_source=linkedin&hss_channel=lis-3Bwec1NQeK” الهدف=”_blank” rel=”noreferrer noopener”> إنتل يتتبعون المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي المتعلقة بالانتخابات.
• قام الرئيس التنفيذي لشركة Apple تيم كوك والمضيف في وقت متأخر من الليل جيمي فالون بإلقاء نظرة”https://9to5mac.com/2024/09/24/jimmy-fallon-and-tim-cook-walk-in-central-park-talking-iphone-16-ai-and-mustard/” الهدف=”_blank” rel=”noreferrer noopener”> المشي في سنترال بارك كجزء من جهود شركة Apple لتسويق هاتف iPhone 16 الجديد وميزات Apple Intelligence الخاصة به.
• أكثر من 100 ممثل ومنتج في هوليود”https://x.com/danhendrycks/status/1838552845454315662?s=12″ الهدف=”_blank” rel=”noreferrer noopener”> وقعت رسالة تحث حاكم ولاية كاليفورنيا على التوقيع على تشريعات سلامة الذكاء الاصطناعي في الولاية.
• خلال أسبوع المناخ في الأمم المتحدة، أنشأت منظمة غير ربحية منشأة فنية جديدة في حديقة براينت بمدينة نيويورك لرفع مستوى الوعي حول الكميات الكبيرة من الطاقة والمياه اللازمة لتشغيل نماذج الذكاء الاصطناعي.
• أعلن تطبيق الإنتاجية Notion عن ميزات الذكاء الاصطناعي التوليدية الجديدة للبحث والتحليل وإنشاء المحتوى وأدوات أخرى.
• أعلنت منصة الذكاء الاصطناعي مفتوحة المصدر HuggingFace عن تطبيق MacOS جديد.
• وقعت أكثر من 100 شركة على ميثاق الاتحاد الأوروبي الجديد للذكاء الاصطناعي لتعزيز الذكاء الاصطناعي الجدير بالثقة والآمن.

قصص الذكاء الاصطناعي الأخرى هذا الأسبوع:

• استخدم Business Insider إستراتيجية نظام حظر الاشتراك غير المدفوع القائم على الذكاء الاصطناعي لزيادة التحويلات بنسبة 75%. (“https://digiday.com/media/how-business-insiders-ai-based-paywall-strategy-increased-conversions-by-75/”> ديجي داي)
• تقرير جديد بقلم”https://www.404media.co/email/ba0f275c-1139-4f78-b5b8-a3448f220134/” الهدف=”_blank” rel=”noreferrer noopener”> 404 وسائل الإعلام يقول إن صور الفطر التي تم إنشاؤها بواسطة الذكاء الاصطناعي من Google يمكن أن تنشر معلومات مضللة وخطيرة.
• “نظارة ميتا الذكية تنتقد من الخارج. وهي الآن مسؤولة عنهم “(“https://www.bloomberg.com/news/articles/2024-09-23/an-outsider-critiqued-meta-s-smart-glasses-now-she-s-in-charge-of-them” الهدف=”_blank” rel=”noreferrer noopener”> بلومبرج)
• تحدثت مارغريت فيستاجر، رئيسة مكافحة الاحتكار في الاتحاد الأوروبي”https://www.axios.com/pro/tech-policy/2024/09/24/eu-antitrust-chief-reflects-big-tech-battles” الهدف=”_blank” rel=”noreferrer noopener”>أكسيوس حول قضية مكافحة الاحتكار في Google Adtech، والذكاء الاصطناعي والمشكلات الأخرى التي تواجه شركات التكنولوجيا الكبرى.
• وبحسب ما ورد تجري شركة Perplexity محادثات مع أفضل العلامات التجارية لتقديم إعلانات في الربع الرابع. (“https://www.ft.com/content/ecf299f4-e0a9-468b-af06-8a94e5f0b1f4″ الهدف=”_blank” rel=”noreferrer noopener”>قدم)
• سان فرانسيسكو كرونيكل”https://www.sfchronicle.com/about/newsroomnews/article/sfchronicle-publishes-kamala-harris-news-19791035.php” الهدف=”_blank” rel=”noreferrer noopener”> لاول مرة روبوت دردشة جديد يعمل بالذكاء الاصطناعي “Kamala Harris News Assistant” لإعلام القراء عن المرشح والانتخابات الرئاسية.
• “يزرع المتسلل ذكريات كاذبة في ChatGPT لسرقة بيانات المستخدم إلى الأبد.” (“https://arstechnica.com/security/2024/09/false-memories-planted-in-chatgpt-give-hacker-persistent-exfiltration-channel/” الهدف=”_blank” rel=”noreferrer noopener”> آرس تكنيكا)

https://digiday.com/?p=556565