أعلنت OpenAI عن إطلاق ميزة جديدة لوضع العلامات المائية على النصوص التي تُنتجها بعض نماذجها، وذلك كخطوة للامتثال لقانون الذكاء الاصطناعي الجديد في أوروبا. سيتوفر هذا الخيار لعملاء واجهة برمجة التطبيقات (API) حاليًا، وتخطط الشركة لتطبيق شكل من أشكال العلامات المائية الرقمية على مخرجات ChatGPT وCodex المؤهلة في الاتحاد الأوروبي خلال أسابيع قليلة.
كيف تعمل تقنية textGrain؟
تُستخدم تقنية OpenAI، المسماة textGrain، لإضافة «إشارة إحصائية غير مرئية إلى خيارات الكلمات في النموذج». تعتمد الفكرة على أن النماذج اللغوية الكبيرة تتنبأ بالكلمات واحدة تلو الأخرى من توزيع احتمالي، وبإجراء تغييرات دورية على هذه الكلمات —يفضل أن تكون مرادفات— فإن النص الناتج ينحرف عن النمط الإحصائي لنموذج غير متحيز. الكاشف، الذي ستوفره OpenAI فقط للباحثين والمنظمات المعتمدة، يبحث عن هذا الانحراف في المفردات لتحديد ما إذا كان المقطع يحتوي على علامة OpenAI المائية.
برأينا، الأداء العملي لهذه التقنية متفاوت. بينما يبلغ معدل الخطأ المستهدف 1 بالمائة، إلا أن الكاشف قد يحدد 80 بالمائة فقط من العلامات المائية في المقاطع القصيرة التي لا تتجاوز 200 كلمة. يتحسن هذا المعدل إلى 95 بالمائة في المقاطع الأطول التي تصل إلى 400 كلمة. كما أن النتائج تكون أسوأ في النصوص الوظيفية، مثل تلك المتعلقة بالرياضيات أو الأكواد البرمجية، حيث من المرجح أن تؤدي استبدالات الكلمات إلى إدخال أخطاء.
الجانب الأكثر إثارة للقلق هو سهولة تجاوز هذه العلامة المائية. أظهرت الاختبارات على مقاطع تتكون من 400 رمز أن استبدال 10 بالمائة من الكلمات بمرادفات قلل من اكتشاف العلامة المائية من 92 بالمائة إلى 66 بالمائة. وعند استبدال 25 بالمائة من الكلمات، لم يتمكن الكاشف من تحديد العلامة المائية إلا في 17 بالمائة من الحالات. هذا يشير إلى أن textGrain قد لا يكون حلاً قويًا لمشكلة تحديد محتوى الذكاء الاصطناعي.
مقارنة مع نهج أنثروبيك والشركات الأخرى
على عكس نهج OpenAI الذي لا يطبق العلامة المائية عالميًا بشكل افتراضي —رغم إمكانية عملاء API اختيار ذلك لأي محتوى— فإن شركة أنثروبيك كانت أول شركة ذكاء اصطناعي كبرى تعلن عن امتثالها لقانون الذكاء الاصطناعي من خلال تطبيق خوارزمية SynthID-Text من جوجل عالميًا. وتعمل كل من مايكروسوفت وميتا على تقنيات مماثلة للذكاء الاصطناعي القائم على الصور، حيث أن قضايا مصدر المحتوى والمعلومات المضللة لا تقتصر على الاتحاد الأوروبي. تجدر الإشارة إلى أن OpenAI تطبق بالفعل إشارات مصدر محتوى أخرى على الصور والصوت والفيديو التي يُنتجها الذكاء الاصطناعي.
بالنسبة للمطورين والمصممين، تعكس هذه الخطوة الاهتمام المتزايد بالشفافية ومسؤولية نماذج الذكاء الاصطناعي. ومع ذلك، فإن الفعالية المحدودة لتقنية textGrain من OpenAI تسلط الضوء على التحديات المستمرة في وضع علامات مائية قوية على النصوص المولدة آليًا. هذا يعني أنه لا يزال يتعين على المهنيين الاعتماد على طرق أخرى للتحقق من مصدر المحتوى، خاصة في المجالات الحساسة. قد يصبح فهم هذه القيود ضروريًا عند دمج نماذج OpenAI في التطبيقات التي تتطلب ضمانات حول أصالة النصوص.
المصدر: theregister.com