ملخص الذكاء الاصطناعي: SynthID مفتوح المصدر من Google Deepmind لوضع علامة مائية على النص الذي تم إنشاؤه

“إن القدرة على تحديد المحتوى الناتج عن الذكاء الاصطناعي أمر بالغ الأهمية لتعزيز الثقة في المعلومات”، كما جاء في DeepMind”https://deepmind.google/technologies/synthid/” الهدف=”_blank” rel=”noreferrer noopener”> مشاركة المدونة. “على الرغم من أن SynthID ليس حلاً سحريًا لمعالجة مشكلات مثل المعلومات الخاطئة أو الإسناد الخاطئ، إلا أنه عبارة عن مجموعة من الحلول التقنية الواعدة لهذه المشكلة الملحة المتعلقة بسلامة الذكاء الاصطناعي.”

في ورقة نشرت هذا الأسبوع في”https://www.nature.com/articles/s41586-024-08025-4″ الهدف=”_blank” rel=”noreferrer noopener”> الطبيعة، شرح فريق بحث Deepmind عملية الإنشاء والاختبار. عند إنشاء نص، يقوم نموذج الذكاء الاصطناعي بتضمين توقيع غير مرئي باستخدام “بذرة عشوائية” ونمط إحصائي مع نظام قائم على النقاط لتشكيل النص الناتج. وتساعد هذه العملية على الجانب الآخر عند اكتشاف ما إذا كان النص قد تم إنشاؤه باستخدام الذكاء الاصطناعي التوليدي باستخدام مفتاح علامة مائية سري. لاحظ الباحثون أيضًا أن العلامات المائية التوليدية مثالية ولها قيود عند ترجمتها أو إعادة كتابتها أو عند استخدامها مع نص أقصر ومحتوى واقعي.

بينما سبق لبعض الخبراء”https://digiday.com/media/ai-briefing-watermarking-ai-content-doesnt-go-far-enough-researchers-warn/”> حذر نظرًا لأن وضع العلامات المائية على محتوى الذكاء الاصطناعي لا يصل إلى حد كافٍ، تعمل مؤسسات مثل C2PA على إنشاء جديد”https://digiday.com/media-buying/adobe-debuts-new-icon-as-a-nutrition-label-for-generative-ai-content/”>المعايير لمحتوى الذكاء الاصطناعي”https://digiday.com/media/wtf-are-content-credentials/”> الشفافية والأصالة، مع الأعضاء الرئيسيين مثل Google وعمالقة التكنولوجيا الآخرين.

قامت Google أيضًا باختبار نص SynthID من خلال تجربة حية باستخدام ما يقرب من 20 مليون رد من Gemini. إلى جانب اختبار دقة عملية وضع العلامات المائية، طلبت Google من مستخدمي Gemini تقييم النص من خلال الاستجابة بالإبهام لأعلى أو الإبهام لأسفل. وجد الباحثون أن نص SynthID لم يقلل من جودة المخرجات أو يغير بشكل ملحوظ مستوى الجودة أو فائدة نص الذكاء الاصطناعي مع العلامات المائية SynthID. أجرى الفريق أيضًا اختبارًا أصغر يتضمن 3000 إجابة من كل من المخرجات التي تحمل علامة مائية وغير علامة مائية بناءً على القواعد النحوية والملاءمة والدقة والمساعدة والجودة.

وقال خبراء التسويق وسلامة العلامات التجارية إن هذا النهج بشكل عام يبدو كخطوة إيجابية، لكن ذلك قد يعتمد على الفعالية الشاملة ومستوى الإقبال. لقد وجدت استطلاعات الرأي المختلفة اهتمامًا كبيرًا من جانب المستهلكين بالشفافية فيما يتعلق بمحتوى الذكاء الاصطناعي المولد، حيث وجد استطلاع أجرته شركة SOCi أن 76% من المستهلكين يريدون درجة معينة من الوضوح على الأقل.

من السابق لأوانه معرفة كل الطرق التي يمكن لـ SynthID من خلالها تحقيق الشفافية عبر العديد من دورات LLM، ولكنه قد يساعد في اكتشاف المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي على منصات التواصل الاجتماعي. قال داميان روليسون، مدير رؤية السوق في SOCi، إنه سيكون من المثالي أن يتم تحديد جميع المحتوى الناتج عن الذكاء الاصطناعي – سواء كان مفيدًا أو ضارًا – بشكل واضح.

قال روليسون: “يجب على المنصات التي من المعروف أن محتوى الذكاء الاصطناعي منتشر فيها أن تنفذ هذا الحل أو الحلول المماثلة بطريقة مفيدة للناشرين والمعلنين والمستهلكين”. “لسوء الحظ، تستفيد منصات مثل Google نفسها وMeta وX وغيرها بشكل غير مباشر من انتشار محتوى الذكاء الاصطناعي، لذلك من المرجح أن تكون إرادتها في مكافحة المحتوى المزيف متوازنة مع مثبط للتأثير على إيرادات الإعلانات ومقاييس المشاركة.”

ويتفق آخرون على أن التوسع سيكون أمرًا أساسيًا، لكنه ربما لا يكون مفيدًا في كل شيء. وقال نيك سابهاروال، نائب رئيس قسم المنتجات في شركة Seekr، إن هذا قد يساعد فقط مع الممثلين غير المتطورين. قد تكون الأمثلة على ذلك قيام المعلمين بالتحقق مما إذا كان الطالب يستخدم Gemini أو ChatGPT لكتابة ورقة بحثية، أو قيام المستهلكين بالتحقق مما إذا كانت رسالة التسويق أو خدمة العملاء قد تم إنشاؤها بواسطة الذكاء الاصطناعي. وفقًا لسابهاروال، يمكن أن تكون أدوات الكشف مفيدة ومطلوبة، ولكن من غير المرجح أن تمنع المحتوى الضار. وذلك لأن الجهات الفاعلة الضارة ستنتقل إلى منصات أخرى لا تستخدم العلامات المائية.

وقال سابهاروال: “لقد كان هناك بالفعل انتشار كبير لمقدمي LLM ومقدمي LLM”. “لا يبدو أن الدمج محتمل. علاوة على ذلك، يمكن للجهات الفاعلة الكبيرة الشائنة، مثل الدول القومية التي ترغب في نشر معلومات مضللة، أن تطور أيضًا نماذج خاصة بها لتجاوز حواجز الحماية هذه.

إذا نجح توسيع نطاق SynthID، فهل يمكن أن يساعد في منع عرض الإعلانات عبر الإنترنت على مواقع الويب التي تم إنشاؤها بواسطة الذكاء الاصطناعي مثل MFAs؟ وقال أرييل جارسيا، مدير الاستخبارات في Check My Ads، إن ذلك محتمل. ولكن ما لم توفر SynthID وضوحًا بشأن درجات الاحتمالية الخاصة بها، فقد تكون هناك مخاطر مماثلة تتمثل في وجود علامات كاذبة موجودة بالفعل مع التحقق من الإعلانات. وأشار جارسيا أيضًا إلى أن جمعيات التمويل الأصغر وغيرها من المخططات لا تزال تمثل إلى حد كبير مسألة حوافز – وليست مجرد مشكلة فنية.

وقال جارسيا: “لا يزال هناك الكثير من الأموال التي يتم جنيها من MFA من قبل شركات تكنولوجيا الإعلان والوكالات والبائعين الآخرين الذين يتم دفعهم على أساس الحجم”. “وإذا لم تتمكن العلامات التجارية من تأكيد مكان عرض إعلاناتها أو لم تكن قادرة على ذلك، فإن هذا ينطوي على خطر أن يكون ضمانًا فارغًا/كاذبًا آخر.”

المطالبات والمنتجات – أخبار الذكاء الاصطناعي والإعلانات الأخرى

• وقع أكثر من 25000 منشئي المحتوى على”https://www.aitrainingstatement.org/” الهدف=”_blank” rel=”noreferrer noopener”>بيان حول الاستخدام غير المرخص للأعمال الإبداعية لتدريب GenAI الذي يحذر من “تهديد غير عادل لسبل عيش الأشخاص الذين يقفون وراء تلك الأعمال، ويجب عدم السماح به”.
• تزعم دعوى قضائية ضد شركة Character AI، رفعتها والدة مراهق انتحر، أن تطبيق chatbot الذي يلعب الأدوار ساهم في وفاة ابنها. وقد أثارت هذه الأخبار مناقشات جديدة حول مخاطر روبوتات الدردشة المدعمة بالذكاء الاصطناعي، خاصة بالنسبة للأعمار الأصغر سنًا والمستخدمين سريعي التأثر.
• جديد”https://www.snowflake.com/en/the-modern-marketing-data-stack-report/” الهدف=”_blank” rel=”noreferrer noopener”> تقرير من Snowflake ينظر إلى الاتجاهات الناشئة المرتبطة وغير المرتبطة بالذكاء الاصطناعي والتي تشكل المشهد التسويقي، بما في ذلك ظهور خطورة البيانات، والذكاء الاصطناعي التوليدي، ومخاوف الخصوصية والوسائط التجارية.
• أعلنت شركة Reality Defender الناشئة للكشف عن التزييف العميق باستخدام الذكاء الاصطناعي عن تمويل إضافي بقيمة 15 مليون دولار في جولة تمويل من السلسلة A مع استثمارات جديدة من Accenture وIBM Ventures ومصادر أخرى. (وفي أخبار أخرى، فإن McAfee وYahoo News هما”https://www.businesswire.com/news/home/20241023620342/en/McAfee-Introduces-AI-Powered-Deepfake-Image-Detection-Technology-on-Yahoo-News-to-Verify-Authenticity-of-News-Images” الهدف=”_blank” rel=”noreferrer noopener”> الشراكة للتحقق من صحة الصور ومنع المعلومات الخاطئة التي يعتمدها الذكاء الاصطناعي.)
• أعلنت شركتا OpenAI وMicrosoft عن صفقة بقيمة 10 ملايين دولار مع العديد من الناشرين بما في ذلك The Minnesota Star Tribune و Philadelphia Inquirer وغيرها من الصحف الكبرى في العاصمة.
• البرلمان الأوروبي هو”https://www.anthropic.com/customers/european-parliament” الهدف=”_blank” rel=”noreferrer noopener”>استخدام نماذج Anthropic’s Claude AI لإنشاء وتوسيع أرشيف رقمي تفاعلي.
• أصدرت RunwayAI أداة جديدة لالتقاط الحركة تتيح للأشخاص استخدام الذكاء الاصطناعي التوليدي في مقاطع الفيديو من هواتفهم الذكية.
• دخلت القواعد الجديدة للجنة التجارة الفيدرالية (FTC) التي تحظر المراجعات المزيفة حيز التنفيذ، والتي تنظم أساليب التسويق الخادعة من كل من البشر والذكاء الاصطناعي. (يقرأ”https://digiday.com/media/ai-briefing-ftc-cracks-down-on-deceptive-marketing-tactics-fake-reviews/”>المزيد في شرحنا الأخير.)
• أنثروبي”https://www.anthropic.com/news/3-5-models-and-computer-use” الهدف=”_blank” rel=”noreferrer noopener”> لاول مرة أداة جديدة للذكاء الاصطناعي لديها القدرة على “التحكم” في جهاز الكمبيوتر عن طريق تحريك الماوس مثل الإنسان. وفي الوقت نفسه، مايكروسوفت”https://blogs.microsoft.com/blog/2024/10/21/new-autonomous-agents-scale-your-team-like-never-before/” الهدف=”_blank” rel=”noreferrer noopener”>الخطط للبدء في السماح للشركات بإنشاء وكلاء الذكاء الاصطناعي المستقلين الخاصين بها بعد ذلك من خلال Copilot Studio.
• جوجل”https://deepmind.google/discover/blog/new-generative-ai-tools-open-the-doors-of-music-creation/” الهدف=”_blank” rel=”noreferrer noopener”>أفرج عنه أدوات ذكاء اصطناعي توليدية جديدة لإنشاء الموسيقى.

• تواجه شركة بيربليكسيتي ضغوطًا قانونية جديدة أثناء محاولتها كسب الناشرين والمعلنين (“https://digiday.com/media/perplexity-faces-new-legal-pressure-even-as-it-attempts-to-win-over-publishers-and-advertisers/”> ديجي داي)
• كيف يقوم المسؤولون التنفيذيون في مجال النشر بدمج أدوات الذكاء الاصطناعي التوليدية في سير عملهم (“https://digiday.com/media/how-publishing-execs-are-incorporating-generative-ai-tools-into-their-workflows/”> ديجي داي)
• تستعين شركة Mondelēz بالذكاء الاصطناعي داخليًا لمحاولة الحد من تكاليف التسويق (“https://digiday.com/marketing/mondelez-takes-ai-in-house-to-try-and-curb-marketing-costs/”> ديجي داي)
• موجز الوسائط: تؤدي التحولات في حركة إحالة البحث هذا العام إلى إصابة الناشرين (“https://digiday.com/media/media-briefing-this-years-search-referral-traffic-shifts-are-giving-publishers-whiplash/”> ديجي داي)
• Daze، وهو تطبيق مراسلة إبداعي مدعوم بالذكاء الاصطناعي لجيل Z، يحقق نجاحًا كبيرًا في مرحلة ما قبل الإطلاق (“https://techcrunch.com/2024/10/21/daze-a-creative-ai-powered-messaging-app-for-gen-z-is-blowing-up-prelaunch/” الهدف=”_blank” rel=”noreferrer noopener”> تك كرانش)
• تتطلع الشركات إلى ما هو أبعد من روبوتات الدردشة لتحقيق مكاسب للذكاء الاصطناعي (“https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301″ الهدف=”_blank” rel=”noreferrer noopener”>وول ستريت جورنال)
• جوجل ومايكروسوفت وPerplexity تروج للعنصرية العلمية في نتائج البحث (“https://www.wired.com/story/google-microsoft-perplexity-scientific-racism-search-results-ai/” الهدف=”_blank” rel=”noreferrer noopener”> سلكي)

يتحدث Fiverr CMO Matti Yahav عن حملة جديدة تسخر من ضجيج الذكاء الاصطناعي

لقد سئم الجميع من السماع عن الذكاء الاصطناعي، ولكن لدى Fiverr الآن أغنية جديدة على طراز برودواي تتحدث عن مدى تعبهم حقًا. خمين ما؟ تم صنعه باستخدام الذكاء الاصطناعي.

أطلق السوق الإلكتروني للخدمات المستقلة حملة جديدة تسخر من دورة الضجيج الحالية. إنه يؤكد على الذكاء الاصطناعي باعتباره أداة وليس زيت الثعبان أو مرهم الشركات. الإعلان، ودعا”https://investors.fiverr.com/news-releases/news-release-details/guess-what-nobody-and-everybody-cares-about-ai” الهدف=”_blank” rel=”noreferrer noopener”> “لا أحد يهتم” تم إطلاقه الأسبوع الماضي ويروج لأدوات الذكاء الاصطناعي التي يستخدمها المستقلون بشكل متزايد، والذين يستخدم بعضهم منصات مختلفة للذكاء الاصطناعي في مشاريع لمجموعة من العملاء.

“إننا نراها في خلاصتنا، وفي خلاصة LinkedIn الخاصة بنا، وفي أي وسيلة تواصل اجتماعية تتواجد فيها طوال اليوم: الذكاء الاصطناعي. منظمة العفو الدولية. “AI” ، قال Fiverr CMO Matti Yahav لـ Digiday. “بالطبع، الذكاء الاصطناعي مذهل. إنها أداة رائعة. ولكن في نهاية المطاف، الشيء المهم هو النتيجة. إنه التأثير.”

في الواقع، تم إنشاء الإعلان التجاري نفسه باستخدام ما يقرب من اثنتي عشرة أداة من أدوات الذكاء الاصطناعي، وفقًا لما ذكره ياهاف. بالنسبة للصور، تم استخدام Midjourney وIdeogram وLeonardo وFlux وPhotoshop Geneative fill. تم إنشاء الرسوم المتحركة باستخدام Runway Gen3 وKling وMinimax. كما استخدمت Lipsyncs وFaceswaps أيضًا Runway وKling جنبًا إلى جنب مع Liveport.

وقال ياهاف إن Fiverr يشهد اهتمامًا متزايدًا بالمشاريع التي تعمل بالذكاء الاصطناعي على المنصة. وبينما يختلف النمو حسب المجال والصناعة، قال إن الموسيقى والصوت هما من الأشياء التي برزت. وهو يعتقد أن الصناعة يجب أن تتوقف عن الحديث عما إذا كان هناك شيء ما يتم تصنيعه باستخدام الذكاء الاصطناعي، وبدلاً من ذلك تتحدث أكثر عن الخدمات التي تدعمها: “هل تعرف مقدار الخدمة التي تم تقديمها باستخدام الذكاء الاصطناعي؟ لست متأكدًا، ولكن سيكون الأمر مثل الموهبة البشرية التي تقف وراء ذلك، حيث يتم دمج كل شيء، والتأكد من حصولك على أفضل النتائج.

في حين يعمل الذكاء الاصطناعي على تعزيز الإنتاجية بالنسبة للكثيرين، إلا أن المخاوف بشأن الدقة والجودة والآثار القانونية لا تزال قائمة. يشعر حوالي 25% من المستقلين المقيمين في الولايات المتحدة بالقلق بشأن الخصوصية والمخاوف القانونية وحقوق النشر إلى جانب 50% من المشاركين المقيمين في المملكة المتحدة. وقالت Fiverr أيضًا إن لديها حواجز حماية لمنع إساءة استخدام الذكاء الاصطناعي على المنصة، لكن ياهاف رفض الكشف عن الكثير حول ماهية هذه التكتيكات. (بدلاً من ذلك، قام متحدث باسم الشركة بتوجيه Digiday إلى معايير مجتمع Fiverr”https://pro.fiverr.com/community/standards” الهدف=”_blank” rel=”noreferrer noopener”>صفحة.)

فيما يلي بعض التفاصيل الأخرى من تقرير Fiverr الجديد حول اتجاهات استخدام الذكاء الاصطناعي هذا العام عبر المنصة. تستند النتائج إلى دراسة استقصائية شملت 3300 موظفًا مستقلاً في Fiverr.

• وتشمل أهم الأدوات ChatGPT (يستخدمه 88% من المشاركين)، وMidjourney (يستخدمه 37%)، وFirefly (29%)، وQuillbot (18%)، وHugging Face (18%)، وGemini (15%).
• وقفز استخدام الذكاء الاصطناعي في صناعة البرمجة والتكنولوجيا من 10% في عام 2023 إلى 86% في عام 2024. وقفزت الموسيقى والصوت من 8% في عام 2023 إلى 41% هذا العام.
• يعد إنشاء النص والمحتوى الآن هو النوع الأكثر شيوعًا من أعمال Fiverr باستخدام الذكاء الاصطناعي (40% من المشاركين يستخدمونه) بينما يستخدمه المشاركون في 19% من المشاريع المرئية والفنية، ويتم استخدامه في تحليل البيانات 18% من الوقت.
• يدفع الآن أكثر من ثلث العاملين المستقلين مقابل اشتراكات أدوات الذكاء الاصطناعي، مع ارتفاع إجمالي المشتركين الذين يدفعون مقابل أدوات الذكاء الاصطناعي بنسبة 10% خلال عام 2023.
• يقول ثلثا العاملين المستقلين إن الذكاء الاصطناعي يساعد في تعزيز الإنتاجية.

https://digiday.com/?p=5588 65