قُبض على كارلي ميشيل هيلر، 30 عاماً من بونيتا سبرينغز بفلوريدا، بتهمة التهديد بارتكاب إطلاق نار جماعي في مكتب شريف مقاطعة لي عبر روبوت الدردشة Claude التابع لشركة Anthropic.
كيف تم اكتشاف التهديد
أفادت تقارير WINK News أن نظام الأمان الآلي في Claude قام بتمييز الرسائل التي تحتوي على عبارات “shoot up” و”new gun”، ثم حولها إلى فريق مراجعة بشرية. بعد مراجعة المحتوى، تواصل الفريق مع السلطات المحلية التي عثرت على هيلر في منزلها.
سياسة Anthropic للإنقاذ الطارئ
تُصرح Anthropic في سياساتها بأنها لا تُفصح عن بيانات المستخدم إلا بناءً على أمر قانوني، إلا أنها تحتفظ باستثناء يسمح بالكشف الفوري إذا رأت خطرًا وشيكًا على الحياة أو السلامة. في هذه الحالة، تم اللجوء إلى هذا الاستثناء لتجنب احتمال حدوث جريمة.
الإطار القانوني في فلوريدا
تُطبق الفلورايدية المادة 836.10 التي تُعاقب أي تهديد مكتوب أو إلكتروني بارتكاب إطلاق نار جماعي أو عمل إرهابي كجناية من الدرجة الثانية، ما يتيح عقوبة قصوى تصل إلى 15 سنة سجن. تم توثيق توقيف هيلر بكمية كفالة تبلغ 10,000 دولار (≈37,500 ريال سعودي ≈36,700 درهم إماراتي).
حالات سابقة مشابهة
- ناثانيل كاراسكو، 22 عاماً، تم اعتقاله في سان أنطونيو في أغسطس بعد تهديد عبر Claude لمدرسة ابتدائية.
- مستخدم آخر كتب إلى Claude في سان فرانسيسكو تهديداً للمدير التنفيذي لشركة Anthropic؛ تم إبلاغ الشرطة وحُظر الحساب.
ما يعنيه ذلك للمطورين
برأينا، تُظهر هذه القصة ضرورة دمج آليات كشف التهديدات في نماذج اللغة الكبيرة وتوثيق مسارات الإبلاغ إلى السلطات. على المطورين الذين يبنون تطبيقات محادثة أن يراعوا سياسات الطوارئ وتوفير تدابير مراجعة بشرية لتقليل مخاطر الاستخدام الضار.
المصدر: ibtimes.co.uk