قريباً، سيبدأ نموذج كلود اللغوي بوضع علامات مائية غير مرئية على جميع نصوصه المولّدة، وفقاً لما صرّحت به شركة أنثروبيك. لكن السؤال الأهم الذي يطرح نفسه هو: هل ستغير هذه العلامات المائية المعنى أو تقلل من جودة المحتوى الذي ينتجه كلود؟
قدمت أنثروبيك إجابة دقيقة على هذا التساؤل في تدوينة حديثة، مجادلة بأن طريقة وضع العلامات المائية التي اختارتها لا تؤثر على جودة مخرجات كلود، ولكنها ستؤدي إلى دفع بعض خيارات الكلمات التي يتخذها النموذج.
وعود أنثروبيك: جودة ثابتة مع دفع خفي للكلمات
وصرحت أنثروبيك قائلة: بالنسبة للقارئ، لا يمكن تمييز الاستجابة التي تحمل علامة مائية عن تلك التي لا تحملها. وأضافت: في اختباراتنا الداخلية، لم نرَ أي تأثير لوضع العلامات المائية على محتوى كلود، أو مستوى إبداعه، أو سهولة قراءته. هذا التعهد يثير التساؤل حول كيفية تحقيق ذلك مع التأثير على خيارات الكلمات.
تأتي علامات كلود المائية النصية استجابة لقانون الذكاء الاصطناعي للاتحاد الأوروبي الذي تم تبنيه مؤخرًا، وستستخدم نسخة من عملية SynthID-Text من جوجل ديب مايند، والتي تغير مصدر العشوائية المستخدمة لاختيار الكلمات.
كيف تعمل العلامات المائية في سياق نماذج اللغة الكبيرة؟
كما توضح أنثروبيك، فإن طريقة كلود في الكتابة تشبه نماذج اللغة الكبيرة الأخرى (LLMs): حيث يولد كل كلمة على حدة، ويحسب احتمالية كل كلمة لاحقة ثم يختار من بين الخيارات الأكثر ترجيحاً.
في بعض الحالات، مثل الاستجابات التي تحتوي على معلومات واقعية، قد يكون هناك خيار واحد فقط جيد لكلمة معينة. على سبيل المثال، إذا سألت كلود عن أول إنسان على القمر، فسيكون هناك خيار واضح للكلمة التالية بعد نيل. وبالمثل، إذا سألت كلود عن ناتج 2 + 2، فإن 4 ستكون الخيار الأفضل الواضح جدًا للكلمة التالية، حسب أنثروبيك.
لكن في حالات أخرى، عندما يولد جملة حول توقعات الطقس الغائمة، قد يكون لدى كلود مجموعة من الكلمات اللاحقة المحتملة في جملة مثل الطقس سيكون…. كلمة رمادي قد تكون الخيار الأبرز باحتمالية 30% (على سبيل المثال)، بينما غائم باحتمالية 28%. حتى بدون العلامات المائية، لن يختار كلود بالضرورة كلمة رمادي فقط لأنها تحتل مرتبة احتمالية أعلى. في منافسة متقاربة كهذه، يعتمد اختيار كلود النهائي على رمي النرد (عشوائية).
في مثل هذه الحالات المتقاربة وذات المخاطر المنخفضة يدخل وضع العلامات المائية في كلود حيز التنفيذ، حيث تمنح عملية وضع العلامات المائية دفعة في اتجاه أو آخر، وفقًا لأنثروبيك. هذه الدفعة ليست كافية لتغيير إجابة كلود إلى، على سبيل المثال، نيل سميث لسؤال من أول من وطئ القمر، لكنها قد تؤثر على ما إذا كان كلود سيقول إن اليوم رمادي أو غائم.
وتضيف أنثروبيك أنه بينما لن (أو لا ينبغي) يغير كلود جزءًا حرجًا من التعليمات البرمجية لوضع علامة مائية، فقد يعدل اختيار كلمة في جزء منخفض المخاطر، مثل تعليق في التعليمات البرمجية.
قابلية الكشف والانتقادات الموجهة
مع عينة كبيرة بما فيه الكفاية، يمكن أن تصبح خيارات الكلمات المختلفة هذه قابلة للكشف كعلامات مائية لكلود، ويمكن لهذه العلامات المائية أن تبقى بعد النسخ واللصق وحتى التحرير الخفيف، حسب أنثروبيك. وسيكون المستخدمون قادرين على اكتشاف هذه العلامات المائية باستخدام واجهة برمجة تطبيقات للكشف (Detection API) لا تزال قيد التطوير، حسبما أشارت الشركة.
بالعودة إلى السؤال الأصلي: هل يجب أن نهتم بأن العلامات المائية لكلود ستؤثر على خيارات كلماته، حتى لو كانت هذه الدفعات خفية؟
على سبيل المثال، انتقد جون غروبر، مراقب آبل وكاتب في Daring Fireball، أنثروبيك بشدة بخصوص سياسة وضع العلامات المائية الجديدة، قائلاً: من غير المقبول أن تضحي أي أداة بقدر ضئيل من الوضوح، أو الاتساق، أو المعنى، أو الجودة، وما إلى ذلك، بهدف تضمين أدلة خفية داخل النص للإشارة إلى مصدره. ويضيف غروبر: فكرة أن أي شيء آخر غير احتياجاتي يجب أن يؤثر في توليد النص لي هي فكرة مسيئة بشكل واضح.
شخصياً، أتفق مع رأي غروبر: لا أرغب في أن تحد أنثروبيك من جودة مخرجات كلود الخاصة بي حتى تتمكن من الامتثال لمتطلبات تنظيمية. ولكن هل ستجعل علامات كلود المائية توليد نصوصه أسوأ بالفعل – أم أسوأ مما هو عليه بالفعل؟
التباين بين الكتابة البشرية والذكاء الاصطناعي
إن مسألة وضع العلامات المائية برمتها تجعلنا ننظر عن كثب إلى كيفية صنع النقانق في مجال توليد النصوص بالذكاء الاصطناعي، وهي ليست صورة جميلة تمامًا. علامات مائية أم لا، فإن الطريقة التي يركب بها الذكاء الاصطناعي النصوص ويختار بها الكلمات هي ما يجعل كتابة الذكاء الاصطناعي تبدو وكأنها ذكاء اصطناعي، وهي أيضًا ما يؤدي إلى الأخطاء.
فكر في هذا: بينما قد يجهد البشر أنفسهم لاختيار الكلمة التالية، ويزنون المعنى، والفروق الدقيقة، وحتى إيقاع المقاطع الصوتية، فإن كلود وChatGPT وجميني ينظرون بدلاً من ذلك في الاحتمالات قبل اتخاذ اختيار عشوائي في نهاية المطاف من بين الخيارات الأكثر ترجيحًا. بعبارة أخرى، الكتاب البشر يعتنون بالتفاصيل، بينما نماذج الذكاء الاصطناعي ببساطة ترمي النرد.
الخلاصة: هل تتغير جودة المحتوى حقًا؟
سيتعين علينا الانتظار حتى يبدأ تطبيق العلامات المائية في كلود قبل أن نتمكن حقًا من تقييم كيفية تأثيرها على المخرجات. ولكن إذا دفعت العلامات المائية للذكاء الاصطناعي رمية كلود نحو رمادي بدلاً من غائم، فهل جعلت هذه العلامة المائية المخرجات أسوأ، أم مجرد درجة مختلفة من العادية؟ سنكتشف ذلك قريبًا.