أطلقت Google DeepMind أداة جديدة لوضع العلامات المائية تحدد ما إذا كان قد تم إنشاء الصور باستخدام الذكاء الاصطناعي.
ستكون الأداة، التي تسمى SynthID، متاحة في البداية فقط لمستخدمي Imagen منشئ الصور AI من Google، والذي يتم استضافته على منصة Vertex للتعلم الآلي من Google Cloud. سيتمكن المستخدمون من إنشاء صور باستخدام Imagen ثم اختيار ما إذا كانوا يريدون إضافة علامة مائية أم لا. والأمل هو أنه يمكن أن يساعد الناس على معرفة متى يتم تمرير المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على أنه حقيقي، أو المساعدة في حماية حقوق الطبع والنشر.
في العام الماضي، جلبت الشعبية الهائلة لنماذج الذكاء الاصطناعي التوليدية أيضًا انتشار التزييف العميق الناتج عن الذكاء الاصطناعي، والمواد الإباحية غير التوافقية، وانتهاكات حقوق الطبع والنشر. العلامة المائية– أصبحت التقنية التي تقوم فيها بإخفاء إشارة في جزء من النص أو الصورة لتعريفها على أنها تم إنشاؤها بواسطة الذكاء الاصطناعي – واحدة من أكثر الأفكار المقترحة شيوعًا للحد من مثل هذه الأضرار.
في يوليو/تموز، البيت الأبيض أعلن لقد حصلت على التزامات طوعية من شركات الذكاء الاصطناعي الرائدة مثل OpenAI وGoogle وMeta لتطوير أدوات وضع العلامات المائية في محاولة لمكافحة المعلومات الخاطئة وإساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي.
في جوجل المؤتمر السنوي I/O في مايووقال الرئيس التنفيذي ساندر بيتشاي إن الشركة تقوم ببناء نماذجها لتشمل العلامات المائية والتقنيات الأخرى من البداية. تعد Google DeepMind الآن أول شركة تكنولوجيا كبيرة تطلق مثل هذه الأداة علنًا.
تقليديًا، تم وضع علامة مائية على الصور عن طريق إضافة تراكب مرئي عليها، أو إضافة معلومات إلى البيانات الوصفية الخاصة بها. لكن هذه الطريقة “هشة” ويمكن فقدان العلامة المائية عند قص الصور أو تغيير حجمها أو تحريرها، كما يقول بوشميت كوهلي، نائب رئيس الأبحاث في Google DeepMind.
يتم إنشاء SynthID باستخدام شبكتين عصبيتين. يأخذ المرء الصورة الأصلية وينتج صورة أخرى تبدو مطابقة لها تقريبًا، ولكن مع بعض وحدات البكسل المعدلة بمهارة. يؤدي هذا إلى إنشاء نمط مضمن غير مرئي للعين البشرية. يمكن للشبكة العصبية الثانية اكتشاف النمط وستخبر المستخدمين ما إذا كانت تكتشف علامة مائية، أو تشتبه في أن الصورة تحتوي على علامة مائية، أو تجد أنها لا تحتوي على علامة مائية. وقال كوهلي إن SynthID مصمم بطريقة تعني أنه لا يزال من الممكن اكتشاف العلامة المائية حتى إذا تم التقاط الصورة أو تحريرها، على سبيل المثال، عن طريق تدويرها أو تغيير حجمها.
إن Google DeepMind ليس الوحيد الذي يعمل على هذا النوع من أساليب وضع العلامات المائية، كما يقول بن تشاو، الأستاذ في جامعة شيكاغو، الذي عمل على أنظمة لمنع نسخ صور الفنانين بواسطة أنظمة الذكاء الاصطناعي. تقنيات مماثلة موجود بالفعلر وهم مستعمل في مولد الصور AI مفتوح المصدر Stable Diffusion. ميتا لديها أيضا الأبحاث التي أجريت على العلامات المائية، على الرغم من أنها لم تطلق بعد أي أدوات عامة للعلامات المائية.
يزعم كوهلي أن العلامة المائية لـ Google DeepMind أكثر مقاومة للتلاعب من المحاولات السابقة لإنشاء علامات مائية للصور، على الرغم من أنها لا تزال غير محصنة تمامًا.
لكن تشاو متشكك. ويقول: “هناك عدد قليل أو لا يوجد أي علامات مائية أثبتت قوتها بمرور الوقت”. العمل المبكر على العلامات المائية للنص وقد وجدت أنهم كسر بسهولة، عادة في غضون بضعة أشهر.
ويضيف أن الجهات الفاعلة السيئة لديها مصلحة راسخة في تعطيل العلامات المائية، على سبيل المثال، الادعاء بأن المحتوى المزيف العميق هو دليل فوتوغرافي حقيقي على جريمة أو حدث غير موجود.
يقول تشاو: “إن المهاجم الذي يسعى إلى الترويج لصور مزيفة على أنها حقيقية، أو تشويه صورة حقيقية باعتبارها مزيفة، سيكون لديه الكثير ليكسبه، ولن يتوقف عند الاقتصاص أو الضغط مع فقدان البيانات أو تغيير الألوان”.
ومع ذلك، فإن إطلاق جوجل ديب مايند يعد خطوة أولى جيدة ويمكن أن يؤدي إلى تبادل أفضل للمعلومات في هذا المجال حول التقنيات التي تنجح وتلك التي لا تنجح، كما تقول كلير ليبوفيتش، رئيسة برنامج الذكاء الاصطناعي ونزاهة الوسائط في الشراكة من أجل الذكاء الاصطناعي.
وتقول: “حقيقة أن هذا الأمر معقد حقًا لا ينبغي أن تصيبنا بالشلل وتمنعنا من القيام بأي شيء”.
وقال كوهلي لمعهد ماساتشوستس للتكنولوجيا MIT Technology Review إن أداة وضع العلامات المائية هي أداة “تجريبية” وقال إن الشركة تريد أن ترى كيف يستخدمها الناس والتعرف على نقاط القوة والضعف فيها قبل طرحها على نطاق أوسع. ورفض الإفصاح عما إذا كان Google DeepMind قد يجعل الأداة متاحة على نطاق أوسع للصور بخلاف تلك التي تم إنشاؤها بواسطة Imagen. كما أنه لم يذكر ما إذا كانت جوجل ستضيف العلامة المائية إلى أنظمة توليد الصور المدعومة بالذكاء الاصطناعي.
وهذا يحد من فائدتها، كما تقول ساشا لوتشيوني، باحثة الذكاء الاصطناعي في شركة Hugging Face الناشئة. وتضيف أن قرار Google بالاحتفاظ بملكية الأداة يعني أن Google فقط هي التي ستكون قادرة على تضمين هذه العلامات المائية واكتشافها.
يقول لوتشيوني: “إذا أضفت مكونًا للعلامة المائية إلى أنظمة إنشاء الصور في جميع المجالات، فسيكون هناك خطر أقل للأضرار مثل المواد الإباحية العميقة”.