في مارس، دعا مجلس الرقابة في ميتا الشركة إلى الوفاء بالتزاماتها العامة واستخدام أدواتها الخاصة لمكافحة انتشار محتوى الذكاء الاصطناعي التوليدي المضلل. استجابت ميتا في يوليو بتقديم ختم المحتوى (Content Seal) – وهي تقنية علامات مائية غير مرئية تحدد الصور التي تم إنشاؤها بواسطة نموذج الذكاء الاصطناعي الجديد للشركة. لكن هذا الإعلان كان مجرد فقرة جانبية مدفونة ضمن إعلان الشركة عن أدواتها الجديدة لإنشاء الصور والفيديو.
بصفتي شخصًا يقضي الكثير من الوقت في تدقيق أنظمة تصنيف الذكاء الاصطناعي، فإن ختم المحتوى لا يبعث الثقة في نفسي. توجد بالفعل حلول أكثر رسوخًا، مثل معايير C2PA لبيانات اعتماد المحتوى وSynthID من جوجل، وكان بإمكان ميتا استخدامها بدلاً من إطلاق نظامها الخاص متأخرًا بشكل ملحوظ. بعد البحث عن السبب وراء إطلاق ميتا لنظامها الخاص، لست مقتنعًا بأن الشركة قد فكرت في هذا الأمر مليًا.
وفقًا لوصف ميتا، يعمل ختم المحتوى بطريقة مشابهة لـ SynthID. توفر العلامة المائية، غير المرئية للعين البشرية، إشارة مصدر مخفية مضمنة في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي يمكن بعد ذلك مسحها ضوئيًا وتصنيفها بواسطة أداة الكشف، مما يساعد مستخدمي الإنترنت على التمييز بين المحتوى المزيف العميق والمحتوى الأصلي. مثل SynthID، تقول ميتا أيضًا إن العلامات المائية لـ ختم المحتوى تظل سليمة ويمكن اكتشافها حتى إذا تم اقتصاص الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها.
لماذا نظام ميتا الخاص بدلاً من المعايير المتاحة؟
إذا كان ختم المحتوى يقوم بنفس الوظيفة تقريبًا، فلماذا لا تعتمد ميتا SynthID ببساطة؟ تعمل ميتا بالفعل كعضو في اللجنة التوجيهية لتحالف مصدر المحتوى وأصالته (C2PA) الذي يروج لمعيار منفصل لبيانات اعتماد المحتوى. بالإضافة إلى ذلك، أظهرت جوجل استعدادها للعمل مع الآخرين لحل المشكلة المتزايدة المتعلقة باكتشاف الذكاء الاصطناعي، وقد اعتمدت OpenAI بالفعل SynthID. من الواضح أن جوجل مستعدة لفتح تقنيتها لمنافسي الذكاء الاصطناعي لتحسين الشفافية.
قيود ختم المحتوى من ميتا
يحتوي ختم المحتوى على العديد من القيود في حالته الراهنة على الرغم من أوجه التشابه مع نظام جوجل. في الوقت الحالي، يمكن للمستخدمين فقط اكتشاف العلامات المائية لـ ختم المحتوى من خلال أداة ويب مخصصة تقوم ميتا باختبارها. هذا يعني أن ميتا لم تبنِ قدرات الكشف هذه في برنامج الدردشة الخاص بها Meta AI، على عكس ما فعلته جوجل مع Gemini. ومع ذلك، يبدو أن هذا قد يكون قيد التنفيذ. صرحت المتحدثة باسم ميتا، فيث آيشن، بأن الشركة تستكشف طرقًا لتقريب الاكتشاف من الأماكن التي يواجه فيها الأشخاص المحتوى الناتج عن الذكاء الاصطناعي. نظرًا لأن هذا هو المكان الذي تشتد فيه الحاجة إلى اكتشاف الذكاء الاصطناعي، ولبعض الوقت، فلماذا لم يكن متاحًا عند الإطلاق؟
يتم تطبيق العلامة المائية نفسها فقط على الصور التي تم إنشاؤها بواسطة نموذج Muse في تطبيق Meta AI وموقع Meta.ai، مما يعني أنه لا يمكن للمستخدمين عبر الإنترنت استخدامها لاكتشاف المحتوى الذي تم إنشاؤه بواسطة نماذج الذكاء الاصطناعي الأقدم من ميتا. دعم الفيديو الذي تم إنشاؤه غير متوفر أيضًا، على الرغم من أن ميتا تقول إن هذا سيأتي قريبًا.
الصورة: جيس ويذربيد / ذا فيرج: تعرض هذه الصورة المعلومات التي تظهر عندما تنجح أداة الكشف الخاصة بـ ميتا في تحديد صورة تم إنشاؤها أو تحريرها باستخدام نموذج Muse الخاص بها.
الصورة: جيس ويذربيد / ذا فيرج: تظهر هذه الرسالة عندما لا تعثر الأداة على أي علامات ختم المحتوى – وهذا لا يعني أن الصورة لم يتم إنشاؤها بواسطة الذكاء الاصطناعي.
حدود الاكتشاف والشفافية
لقد فرضت ميتا حدًا يوميًا لعدد المرات التي يمكنك فيها التحقق من الصور بحثًا عن ختم المحتوى من خلال أداة الكشف الخاصة بها. صرحت آيشن بأن هذا الحد مصمم لدعم الاستخدام العادي مع حماية نظام الكشف من سوء الاستخدام. لم توضح ميتا كيف سيبدو سوء الاستخدام هذا – من المفترض، محاولات لكسر النظام لتجنب اكتشاف المحتوى الذي يحمل علامة مائية – ولكن أدوات الكشف الخاصة بجوجل وOpenAI لديها قيود مماثلة على المعدل. يتميز C2PA بكونه النظام الوحيد الذي لا يحدد عدد المرات التي يمكن للمستخدمين فيها التحقق من المحتوى. أي قيود على الاكتشاف تبدو غير بديهية لتحسين شفافية الذكاء الاصطناعي على نطاق واسع، لذلك يبدو هذا بمثابة فرصة ضائعة لنظام ميتا للقيام بشيء أفضل من SynthID.
على منصات ميتا الخاصة مثل فيسبوك وإنستغرام التي تطبق تسميات الذكاء الاصطناعي، قال آيشن إن البيانات الوصفية غير المحددة بالإضافة إلى العلامة المائية لختم المحتوى تُستخدم لمساعدة المستخدمين على تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. عندما سُئلت ميتا عما إذا كانت تصدر تعليمات لمنصات أخرى عبر الإنترنت مثل TikTok وLinkedIn حول كيفية اكتشاف ختم المحتوى، قالت آيشن إن الشركة مصممة على العمل مع أقراننا في الصناعة للتأكد من حصول المستخدمين على أفضل تجربة ممكنة.
يبدو أن الدعم الأوسع للمعيار لا يزال قيد التقدم، مما قد يمنع تصنيف الصور التي أنشأها Muse بشكل فعال خارج منصات ميتا الخاصة. عندما قمت بتغذية صورة اختبارية أنشأتها باستخدام نموذج Muse الخاص بميتا إلى Gemini وبوابة الكشف الرسمية لـ C2PA، لم تتمكن أي من الأداتين من تأكيد أنها تم إنشاؤها بواسطة الذكاء الاصطناعي. هناك أيضًا سؤال حول ما إذا كان يمكن تطبيق ختم المحتوى على ملفات الصور والفيديو جنبًا إلى جنب مع SynthID ومعايير Content Credentials دون التدخل في تلك المعايير الأخرى. لم تقدم ميتا أي توضيح لهذا الأمر.
قال آيشن: مثل الآخرين، قمنا ببناء ختم المحتوى محليًا وفقًا لمواصفاتنا ومنتجاتنا الفنية الخاصة بنا. يتطلب الأمر أساليب متعددة تعمل معًا لمعالجة هذا الأمر عبر النظام البيئي، ويسعدنا أن نساهم في هذا الجهد. وأضاف: سيكون لدينا المزيد لمشاركته حول ختم المحتوى قريبًا.
تاريخ ميتا مع اكتشاف الذكاء الاصطناعي: سوابق وتأخيرات
نظرًا لأن ختم المحتوى يمكنه فقط اكتشاف الصور التي تم إنشاؤها باستخدام أحدث نموذج للذكاء الاصطناعي من ميتا، لا بد لي أن أتساءل عما كانت تفعله الشركة طوال هذا الوقت. قدمت ميتا أدوات إنشاء الصور بالذكاء الاصطناعي منذ عام 2023، لذا فقد أنتجت بالفعل الكثير من المحتوى الزائف الذي لا يمكن اكتشافه بواسطة نظامها الخاص. كما أدخلت علامات الذكاء الاصطناعي على إنستغرام وفيسبوك في عام 2023، الأمر الذي أثار غضب العديد من المصورين في ذلك الوقت من خلال تصنيف الصور الحقيقية عن طريق الخطأ على أنها من صنع الذكاء الاصطناعي.
بعد مرور ثلاث سنوات، لا تزال شركة ميتا غير متأكدة من كيفية تقديم نفسها كشركة مصنعة لمحتوى الذكاء الاصطناعي والحل لتحديده، خاصة عبر منصاتها الخاصة. حتى القيادة العليا في ميتا تبدو في حيرة من أمرها بشأن ما ينبغي عليها فعله بعد ذلك.
في مقابلة على بودكاست ليني راتشيتسكي، اعتنق رئيس إنستغرام آدم موسيري في البداية فكرة أنه يجب السماح للأشخاص الذين لا يحبون المحتوى الذي ينشئه الذكاء الاصطناعي بإبقائه خارج خلاصاتهم الاجتماعية – وهي ميزة تصفية تبدو غريبة للغاية قد تتطلب نظامًا موثوقًا لتصنيف الذكاء الاصطناعي. بل إنه اقترح أن الأصالة في حد ذاتها ستصبح مرغوبة أكثر كشيء لا يستطيع الذكاء الاصطناعي توفيره.
قال موسيري: في عالم يكثر فيه المحتوى الاصطناعي، أعتقد أن الناس سيبحثون عن الإبداع والأصالة أكثر وليس أقل.
ومع ذلك، خلال المقابلة نفسها، قال موسيري: لا أعتقد أننا يجب أن نقوم بتصفية محتوى الذكاء الاصطناعي، بينما أكد أنه يجب أن نخبرك ما إذا كان المحتوى هو محتوى الذكاء الاصطناعي أم لا. كما كرر موسيري رأيًا عبر عنه سابقًا بأنه قد يكون أكثر عملية وضع علامة مائية على الوسائط الحقيقية بدلاً من المزيفة. كل هذا لا يجعل شركة ميتا تبدو واثقة من قدرتها على تطوير نظام قابل للتطبيق لتصنيف الذكاء الاصطناعي. لقد كان لديها متسع من الوقت للقيام بذلك، ومع ذلك، فإن إطلاق ختم المحتوى لا يزال يبدو وكأنه تم التعجيل به.
خاتمة: هل فات الأوان على ميتا؟
لا يقدم ختم المحتوى فوائد فريدة للمستهلكين مقارنة بنظام SynthID المماثل، وبدلاً من ذلك يخلق مجرد عقبة أخرى يجب على الأشخاص تخطيها للتحقق من محتوى الذكاء الاصطناعي. ربما كان يجب على ميتا أن تعتمد معيار جوجل للعلامة المائية بدلاً من ذلك، كما فعلت OpenAI. قد يكون مستخدمو فيسبوك وإنستغرام في وضع أفضل إذا فعلوا ذلك. صرحت آيشن بأن ميتا كانت تساهم في أبحاث العلامات المائية مفتوحة المصدر لسنوات حتى الآن، لذلك لم يتم تطوير هذه التقنية بين عشية وضحاها، لكنني أتوقع ظهور تجربة أفضل للمستهلك.
إذا أرادت ميتا الاعتماد على حلولها الخاصة بدلاً من ذلك، فستحتاج إلى أكثر من نسخة نصف مكتملة من SynthID لإثبات جديتها بالفعل فيما يتعلق بشفافية الذكاء الاصطناعي – وبالتأكيد أكثر موثوقية. فقد وجدت رويترز بالفعل أن ختم المحتوى فشل في اكتشاف أكثر من نصف الصور التي أنشأها Muse واختبرتها بعد اقتصاصها.