التكنولوجيا
يستخدم Google DeepMind أسلوب العلامات المائية المدعم بالذكاء الاصطناعي في استجابات برنامج Gemini chatbot لعدة أشهر – وهو الآن يجعل الأداة متاحة لأي مطور للذكاء الاصطناعي
بواسطة”http://www.newscientist.com/author/jeremy-hsu/”> جيريمي هسو
“0 0 32 32″ الإصدار=”1.1″ الدور=”img” ملء=”rgb(0, 0, 0)” xmlns:xlink=”http://www.w3.org/1999/xlink”>
يمكن استخدام احتمالية أن تتبع كلمة أخرى كلمة أخرى لإنشاء علامة مائية للنص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي
فيكرام آرون / شاترستوك
تستخدم جوجل العلامات المائية للذكاء الاصطناعي للتعرف تلقائيًا على النص الذي تم إنشاؤه بواسطة برنامج Gemini chatbot الخاص بالشركة، مما يسهل التمييز بين المحتوى الذي ينشئه الذكاء الاصطناعي والمشاركات المكتوبة بواسطة الإنسان. يمكن أن يساعد نظام العلامة المائية هذا في منع إساءة استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي لنشر معلومات مضللة ومضللة – ناهيك عن الغش في المدارس وأماكن العمل.
الآن، تعمل شركة التكنولوجيا على توفير نسخة مفتوحة المصدر من تقنيتها حتى يتمكن مطورو الذكاء الاصطناعي الآخرون من وضع علامة مائية على المخرجات من نماذج اللغات الكبيرة الخاصة بهم، كما يقول”https://research.google/people/105667/”> بوشميت كوهلي في Google DeepMind، فريق أبحاث الذكاء الاصطناعي التابع للشركة، والذي يجمع بين مختبرات Google Brain و DeepMind السابقة. ويقول: “على الرغم من أن SynthID ليس حلاً سحريًا لتحديد المحتوى الناتج عن الذكاء الاصطناعي، إلا أنه يمثل لبنة بناء مهمة لتطوير أدوات تعريف أكثر موثوقية للذكاء الاصطناعي”.
وأعرب باحثون مستقلون عن تفاؤل مماثل. يقول: “على الرغم من عدم وجود طريقة مضمونة للعلامة المائية المعروفة، إلا أنني أعتقد حقًا أن هذا يمكن أن يساعد في اكتشاف جزء من المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي والغش الأكاديمي وغير ذلك الكثير”.”https://www.scottaaronson.com/”> سكوت آرونسون في جامعة تكساس في أوستن، والذي عمل سابقًا في مجال سلامة الذكاء الاصطناعي في OpenAI. “آمل أن تحذو شركات نماذج اللغات الكبرى الأخرى، بما في ذلك OpenAI وAnthropic، حذو DeepMind في هذا الشأن.”
في شهر مايو من هذا العام، جوجل DeepMind”https://deepmind.google/discover/blog/watermarking-ai-generated-text-and-video-with-synthid/”> أعلن أنها نفذت طريقة SynthID الخاصة بها لوضع علامة مائية على النصوص والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خدمات Google Gemini وVeo AI، على التوالي. وقد نشرت الشركة الآن ورقة في المجلة طبيعةيوضح كيف تفوق SynthID بشكل عام على تقنيات العلامات المائية المماثلة للذكاء الاصطناعي للنص. تضمنت المقارنة تقييم مدى سهولة اكتشاف الاستجابات من مختلف نماذج الذكاء الاصطناعي ذات العلامات المائية.
في نهج العلامات المائية للذكاء الاصطناعي الخاص بشركة Google DeepMind، عندما يقوم النموذج بإنشاء سلسلة من النصوص، تقوم خوارزمية “أخذ عينات من البطولة” بدفعه بمهارة نحو اختيار “رموز” كلمات معينة، مما يؤدي إلى إنشاء توقيع إحصائي يمكن اكتشافه بواسطة البرامج المرتبطة. تقوم هذه العملية بشكل عشوائي بجمع رموز الكلمات المحتملة في قوس على نمط البطولة، مع تحديد الفائز في كل زوج من خلاله الذي حصل على أعلى الدرجات وفقًا لوظيفة العلامة المائية. ينتقل الفائزون عبر جولات البطولة المتعاقبة حتى تبقى واحدة فقط – وهو “نهج متعدد الطبقات” “يزيد من تعقيد أي محاولات محتملة لإجراء هندسة عكسية أو إزالة العلامة المائية”، كما يقول”https://furong-huang.com/”> فورونج هوانج في جامعة ميريلاند.
يقول إن “الخصم المصمم” الذي يتمتع بكميات هائلة من القوة الحسابية لا يزال بإمكانه إزالة مثل هذه العلامات المائية للذكاء الاصطناعي”https://scholar.google.com/citations?hl=en&user=h5IXxToAAAAJ&view_op=list_works&sortby=pubdate”> هانلين تشانغ في جامعة هارفارد. لكنه وصف نهج SynthID بأنه منطقي بالنظر إلى الحاجة إلى علامات مائية قابلة للتطوير في خدمات الذكاء الاصطناعي.
ال”http://www.newscientist.com/article-topic/deepmind/”> جوجل ديب مايند اختبر الباحثون نسختين من SynthID تمثلان مفاضلات بين جعل توقيع العلامة المائية أكثر قابلية للاكتشاف، على حساب تشويه النص الذي يتم إنشاؤه عادةً بواسطة نموذج الذكاء الاصطناعي. لقد أظهروا أن النسخة غير المشوهة من العلامة المائية للذكاء الاصطناعي لا تزال تعمل، دون التأثير بشكل ملحوظ على جودة 20 مليون استجابة نصية تم إنشاؤها بواسطة Gemini خلال تجربة حية.
لكن الباحثين أقروا أيضًا بأن العلامة المائية تعمل بشكل أفضل مع استجابات برامج الدردشة الأطول التي يمكن الرد عليها بعدة طرق – مثل إنشاء مقال أو بريد إلكتروني – وقالوا إنها لم يتم اختبارها بعد على الاستجابات لمشكلات الرياضيات أو البرمجة.
وصف كل من فريق Google DeepMind وآخرين الحاجة إلى ضمانات إضافية ضد إساءة استخدام”http://www.newscientist.com/article/2450119-which-ai-chatbot-is-best-at-avoiding-disinformation/”> روبوتات الدردشة المدعمة بالذكاء الاصطناعي ــ مع توصية هوانج أيضاً بتنظيم أقوى. وتقول: “إن فرض العلامات المائية بموجب القانون من شأنه أن يعالج التحديات العملية وتحديات اعتماد المستخدم، مما يضمن استخدامًا أكثر أمانًا لنماذج اللغات الكبيرة”.
المواضيع: