كشفت شركة Anthropic، أحد اللاعبين الرئيسيين في مجال الذكاء الاصطناعي، عن اقتراح جريء لحاكم ولاية كاليفورنيا، Gavin Newsom، يقضي بمنح المحاكم صلاحية إيقاف نماذج الذكاء الاصطناعي التي تشكل خطرًا جادًا. يأتي هذا في سياق سعي الولاية لتشديد قوانين السلامة المتعلقة بالذكاء الاصطناعي.
تفاصيل اقتراح Anthropic
جاء هذا الاقتراح في رسالة بتاريخ 15 أكتوبر، ردًا على أمر تنفيذي وقّعه Newsom في سبتمبر. يدعو الأمر التنفيذي إلى تشكيل مجموعة عمل لتقديم مقترحات حول تعزيز قوانين سلامة الذكاء الاصطناعي في كاليفورنيا خلال شهرين.
وفقًا لـ Anthropic، ينبغي أن تتمكن الحكومة من الطلب من المحكمة إيقاف النموذج إذا أشار التقييم المستقل إلى أنه يمثل خطرًا جسيمًا. ستكون مهمة المقيمين المستقلين الإبلاغ عن المخاطر إلى المدعي العام لكاليفورنيا، والذي يمكنه بدوره طلب تعليق النموذج قضائيًا في حالة وجود «خطر وشيك لوقوع ضرر كارثي».
يمكن لأمر المحكمة هذا أن يمنع إطلاق النموذج، أو استخدامه داخليًا داخل الشركة، أو حتى مواصلة العمل عليه. كما دعت Anthropic إلى وجود مدققين خارجيين للسلامة يعملون داخل شركات الذكاء الاصطناعي الرائدة، وأن تدفع الشركات في صندوق تديره الدولة لتمويل هؤلاء المدققين بدلًا من الدفع المباشر لهم.
وفيما يتعلق بـ «مفاتيح الإيقاف» (kill switches)، اتفقت Anthropic على ضرورة امتلاك كل شركة AI رائدة القدرة على إيقاف نماذجها بسرعة. ومع ذلك، أشارت إلى أن قانونًا يركز فقط على الإغلاقات الكاملة قد يمنح شعورًا زائفًا بالأمان، ودعمت بدلًا من ذلك خطوات أضيق، مثل إيقاف وكيل AI واحد أو قطع الوصول عن عميل واحد.
تباين الآراء والتأثيرات المحتملة
لم تكن هذه هي التوصيات الوحيدة التي تلقتها حكومة كاليفورنيا. أرسلت شركة OpenAI توصياتها الخاصة في 20 أكتوبر، حيث دعمت ضوابط الإغلاق ومدققين داخليين، لكنها لم تؤيد أوامر المحكمة لمنع النماذج الخطرة.
تُقدم Anthropic حجة مماثلة في واشنطن، حيث قامت بتعميم مشروع قانون فيدرالي يسمح لوزارة التجارة بطلب محكمة فيدرالية لمنع إطلاق نموذج في حالات محددة وضيقة. كما اقترح المشرعون في مجلس النواب قانونًا لـ «مفتاح إيقاف AI» يسمح للمسؤولين بإصدار أوامر لشركات الذكاء الاصطناعي بإيقاف النماذج الخطيرة.
بالنسبة للمطورين والمصممين، تعكس هذه النقاشات المتزايدة حول تنظيم الذكاء الاصطناعي ضرورة الوعي بالمسؤوليات الأخلاقية والقانونية المتزايدة. قد تؤدي مثل هذه المقترحات إلى متطلبات أكثر صرامة للتدقيق والإبلاغ عن المخاطر، مما يعني أهمية أكبر لتضمين مبادئ الأمان والشفافية في تصميم وتطوير نماذج الذكاء الاصامعي منذ البداية. إن القدرة على إيقاف النماذج، سواء بشكل جزئي أو كلي، ستصبح ميزة تصميمية حاسمة وليست مجرد إضافة لاحقة.
المصدر: thenextweb.com