وسط مخاوف متزايدة بشأن إساءة استخدام أدوات الذكاء الاصطناعي التوليدي، جوجل (ناسداك: جوجل) أمسك الثور من قرونه من خلال الكشف عن علامات مائية غير مرئية للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي يطلق عليها اسم SynthID.
الرئيس التنفيذي لشركة جوجل ساندر بيتشايمؤكدأحدث ميزة في مجموعتها من أدوات الذكاء الاصطناعي الموسعة، مع الإشارة إلى أن هذه الخطوة ستجعل الشركة أقرب إلى أهدافها المتمثلة في ضمان الاستخدام الآمن للذكاء الاصطناعي. وأشار إلى أن العلامات المائية، التي يدعمها برنامج DeepMind التابع لشركة Google، ستظل غير قابلة للاكتشاف بالنسبة للبشر، دون المساومة على جودة الصورة.
“اليوم، يسعدنا أن نكون أول مزود سحابي يتيح وضع العلامات المائية الرقمية والتحقق من الصور المقدمة على منصتنا.”قالبيتشاي. “باستخدام التكنولوجيا التي تدعمها Google Deepmind، يمكن وضع علامة مائية على الصور التي تم إنشاؤها بواسطة Vertex AI بطريقة غير مرئية للعين البشرية دون الإضرار بجودة الصورة.”
ومع ذلك، قال بيتشاي إنه سيتم اكتشاف العلامة المائية بسهولة من خلال أداة كشف الذكاء الاصطناعي، مما يجعل من المستحيل تقريبًا على المستخدمين إزالة العلامات من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. باستخدام العلامات المائية التقليدية، يمكن للمستخدمين استخدام مجموعة من الطرق لإزالتها، بما في ذلك الاقتصاص أو تغيير الحجم أو استخدام أدوات الصور الموجودة.
تعمل أداة الذكاء الاصطناعي الجديدة من جوجل منذ عام 2022، لكن النقاد أحدثوا ثغرات في تطبيقاتها. ويشيرون إلى نقص التفاصيل الفنية في الاستشارة، لكن الشركة أشارت إلى أن طبيعة الإعلان مصممة للحد من عمليات الجهات الفاعلة السيئة.
“كلما كشفت أكثر عن الطريقة التي تعمل بها، أصبح من الأسهل على المتسللين والكيانات الشريرة الالتفاف عليها”.قالالرئيس التنفيذي لشركة جوجل ديب مايندديميس هاسابيس.
على الرغم من أنه لا يزال في المراحل الأولى، يعتقد هاسابيس أنه يمكن نشر SynthID عبر عدة أشكال، بما في ذلك الفيديو والنص. ستكون الأداة مفتوحة لعدد محدد من المستخدمين قبل طرحها على نطاق واسع، حيث أشار هاسابيس إلى أنه على الرغم من الوعد، إلا أنها ليست “الحل السحري لمشكلة التزييف العميق”.
أدى ابتكار الذكاء الاصطناعي التوليدي إلى ظهورالتزييف العميقعلى وسائل التواصل الاجتماعي. وقد أثار هذا الاتجاه مخاوف جدية لدى المنظمين في جميع أنحاء العالم. قبل موسم الانتخابات لعام 2024، احتلت قضية التزييف العميق مركز الاهتمام، حيث أطلقت لجنة الانتخابات الفيدرالية الأمريكية (FEC)التشاور العامللقواعد المقترحة للتحكم في استخدام الصور ومقاطع الفيديو المولدة بواسطة الذكاء الاصطناعي.
كيفية تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي
جوجل ليست الشركة الوحيدة التي تتسابق لتطوير معايير وضع العلامات الخاصة بالذكاء الاصطناعيOpenAIوميتا(ناسداك: ميتا) رمي قبعاتهم في الحلبة. وقد تعهدت الشركات الثلاث الرائدة في الصناعة بتقديمهاالضماناتلاستخدام أدوات الذكاء الاصطناعي الخاصة بهم، بما في ذلك استخدام البيانات التعريفية المشفرة لوضع علامات على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
الاتحاد الأوروبي القادمقانون الذكاء الاصطناعييتضمن أرزقللشركات من أجل “تصنيف” المحتوى الناتج عن الذكاء الاصطناعي بشكل واضح، بالتعاون مع الأمم المتحدةتحذيرأن التزييف العميق يمكن أن يؤدي إلى أعمال عنف في مناطق معينة من العالم. وقد حذرت مجموعات المجتمع المدني المعنية من أنه إذا تركت هذه التقنية دون رادع، فقد تؤثر التزييف العميق سلبًا على العملية الانتخابية، والأسهم،ويب3، و الامن.
شاهد: هل يعرف الذكاء الاصطناعي ما يفعله؟
جديد على blockchain؟ تحقق من CoinGeek بلوكتشين للمبتدئين القسم، دليل الموارد النهائي لمعرفة المزيد حول تقنية blockchain.