قضت شركة أنثروبيك، إحدى القوى الدافعة خلف التقدم في الذكاء الاصطناعي، السنوات الخمس الماضية في التحذير من المخاطر المحتملة للذكاء الاصطناعي المتقدم، بما في ذلك الدمار الشامل وزعزعة الاستقرار الاجتماعي. ومع ذلك، فقد أصبحت في الوقت ذاته مطورًا وموزعًا رائدًا لنماذج الذكاء الاصطناعي المتطورة، وتتعامل مع عملاء مهمين مثل الجيش الأمريكي، وقُدرت قيمتها مؤخرًا بحوالي تريليون دولار. للوهلة الأولى، قد تبدو رسائل أنثروبيك التحذيرية وأفعالها المتسارعة متناقضة بشكل جوهري.
لكن داخل الشركة، لا يرى الكثيرون أي تناقض. لفهم هذا المنظور، يجب أولاً إدراك أن أنثروبيك تعمل بناءً على اعتقادين أساسيين. الأول هو أن الذكاء الاصطناعي يمثل التكنولوجيا الأكثر تحولًا في تاريخ البشرية، وأن قدومه أمر حتمي. السؤال الحقيقي الوحيد هو ما إذا كان سيؤدي إلى كارثة أم إلى ازدهار غير عادي.
استراتيجية أنثروبيك: بين الريادة والسلامة
الاعتقاد الثاني هو أن أنثروبيك ترى أن العالم سيكون في وضع أفضل إذا ظلت في صدارة سباق الذكاء الاصطناعي، وفقًا لموظفين سابقين تحدثوا شريطة عدم الكشف عن هويتهم. غالبًا ما يشير القادة والموظفون داخليًا إلى أنفسهم بأنهم الأخيار، أي الأشخاص المسؤولون عن تكنولوجيا الذكاء الاصكناعي. وترى الشركة أن تراكم القوة، سواء في شكل رأس مال أو قدرات حاسوبية أو مواهب بحثية أو نفوذ سياسي، ليس غاية في حد ذاته، بل هو ثمن لتحقيق مهمتها التي تتمثل في ضمان قيام العالم بالانتقال بأمان من خلال الذكاء الاصطناعي التحويلي.
تستخدم هيلين تونر، المديرة التنفيذية لمركز جورج تاون للأمن والتكنولوجيا الناشئة وعضو سابق في مجلس إدارة OpenAI، تشبيهًا لوصف نظرة أنثروبيك للعالم. تقارن الذكاء الاصطناعي القوي بغابة مليئة بالكنوز السحرية والوحوش الخطيرة. يندفع القرويون إلى الداخل، يجذبهم الكنز. في روايتها، تريد أنثروبيك المغامرة في الغابة أبعد من أي شخص آخر بينما تستثمر بكثافة في ترويض الوحوش، أي الاستفادة من فوائد الذكاء الاصطناعي مع احتواء مخاطره الكارثية.
أوضح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، هذا النهج بوضوح في إحدى المحادثات، مشيرًا إلى ضرورة إيجاد طريقة للمنافسة بفعالية، ولقيادة الصناعة في بعض الحالات، مع القدرة على القيام بالأمور بأمان. وأضاف: «إذا تمكنت من فعل ذلك، فإن قوة الجاذبية التي تمارسها ستكون كبيرة جدًا».
تأسست أنثروبيك عام 2021 على يد مجموعة من موظفي OpenAI السابقين الذين انشقوا بعد أن فقدوا الثقة في قدرة قيادة الشركة، وخاصة الرئيس التنفيذي سام ألتمان، على جلب الذكاء الاصطناعي التحويلي إلى العالم بأمان. ولا يزال هذا الشعور يشكل الشركة اليوم. ويقول موظفان سابقان إنه في المناقشات الداخلية، غالبًا ما يصف المسؤولون التنفيذيون في أنثروبيك ألتمان وOpenAI، وبدرجة أقل xAI التابعة لميتا وإيلون ماسك، كأمثلة تحذيرية تساعد في تحديد حس أنثروبيك بالمسؤولية.
في العديد من النواحي، تشبه أنثروبيك أي شركة أخرى في وادي السيليكون، حيث تسوق العديد من الشركات الناشئة نفسها على أنها شركات ديفيد تحارب عمالقة الصناعة الراسخة. لكن الموظفين السابقين يقولون إن أنثروبيك غير عادية من حيث مدى إيمانها بمهمتها، ومدى وضوح إخبارها للموظفين بأن القوة التكنولوجية والتجارية هي وسيلة لتحقيق هذه الرسالة. ويقول أحد الموظفين السابقين إنه في مقابلات العمل، تؤكد أنثروبيك للمتقدمين أنها ليست شركة نموذجية تشكلها قوى السوق: إنها محكومة بهيكل منفعة عامة يسمح لها بإعطاء الأولوية لمنفعة الإنسانية على المدى الطويل فوق الأرباح. لكن الشركة ترى أن تحقيق النجاح المالي وبناء أقوى نماذج الذكاء الاصطناعي هو أمر في خدمة هذا الهدف، وهو شرط أساسي لالتزامها بقيادة الصناعة فيما يتعلق بالسلامة.
قال سام ماكاندليش، المؤسس المشارك وكبير مهندسي شركة أنثروبيك: «لم يرغب أحد منا في تأسيس شركة، لقد شعرنا فقط أن ذلك كان من واجبنا. علينا أن نفعل هذا الشيء. هذه هي الطريقة التي سنجعل بها الأمور تسير بشكل أفضل باستخدام الذكاء الاصطناعي».
التحدي الداخلي: مشكلة «الرجل الطيب»
تؤكد أنثروبيك على موقعها الإلكتروني أنها منظمة ذات ثقة عالية ومنخفضة الأنا، دون الكثير من السياسات الداخلية، وهو وصف أخبرني موظفون سابقون بأنه دقيق إلى حد كبير. ويقولون إنه بالمقارنة مع القادة في مختبرات الذكاء الاصطناعي الأخرى، يثق موظفو أنثروبيك عمومًا في أمودي لإخبارهم بالحقيقة حول التقدم التكنولوجي للشركة وتفاعلاتها مع المسؤولين الحكوميين ووجهات نظرها بشأن الجغرافيا السياسية.
لكن تنوع الأفكار يمكن أن يكون مفيدًا للمساءلة. تقول شازيدا أحمد، باحثة ما بعد الدكتوراه في جامعة كاليفورنيا، والتي درست الأصول الأيديولوجية لحركة سلامة الذكاء الاصطناعي، إن المنظمات مثل أنثروبيك تميل إلى الصراع مع الافتقار إلى التعددية. ووجدت في بحثها أن حركة سلامة الذكاء الاصطناعي، المتجذرة في ثقافات فرعية مثل الإيثار الفعال، تعاني من تجانس الفكر وتميل نحو الحكم الذاتي.
يقول أحمد: «لا تواجه تحديًا بشأن هذه الأفكار عندما تحيط نفسك بأشخاص آخرين يؤمنون بها. وعندما تكون مقاييس النجاح الخاصة بك هي: إلى أي مدى تصرفت بناءً على هذه المعتقدات الأيديولوجية؟ إنهم لا يفكرون حقًا في أن هذا يمكن أن يحدث بشكل خاطئ إذا لم نكن الأشخاص المناسبين للحصول على هذا القدر من القوة، فهم لا يفحصون دائمًا النقاط العمياء الخاصة بهم».
يقول أحد الموظفين السابقين إن هناك ثقافة حيوية للنقاش الداخلي في أنثروبيك، وغالبًا ما تثير انتقادات الموظفين ردودًا مطولة من القيادة. لكن موظفًا سابقًا آخر يصف صورة أكثر قتامة، حيث ظل النقد الأكثر صراحة محصورًا في الدردشات الجماعية الخاصة ونادرًا ما يتطور إلى تحديات مباشرة لقرارات أمودي. ووصفوا الاجتماعات الشاملة المنتظمة للشركة مع أمودي، والتي أطلقوا عليها اسم Dario Vision Quests، بأنها أقرب إلى الذهاب إلى عظة للاستماع إلى كاهن.
حدث أحد أكبر الخلافات الداخلية في أنثروبيك في خريف عام 2024، عندما أصبحت أول مختبر للذكاء الاصطناعي يقوم بالشراكة مع بالانتير لتقديم خدمات الذكاء الاصطناعي إلى وكالات الاستخبارات والدفاع الأمريكية. وقال بعض الموظفين السابقين إن أسئلة حول الصفقة أثيرت داخليًا، لكن تلك المناقشات لم تسفر عن تغييرات في سياسات الشركة.
في منشور على منتدى LessWrong عبر الإنترنت في ذلك الوقت، كتب الموظف إيفان هوبينجر أن الشركة كانت صريحة للغاية بشأن صفقة بالانتير مع الموظفين، وعلى الرغم من أنه ربما كانت هناك بعض الخطوط التي لا ينبغي تجاوزها دون دراسة متأنية، فقد كان ذلك تطورًا إيجابيًا بشكل عام. وكتب: «إذا أخذت المخاطر الكارثية الناجمة عن الذكاء الاصطناعي على محمل الجد، فإن حكومة الولايات المتحدة تعد جهة فاعلة مهمة للغاية للتعامل معها، ومحاولة منع حكومة الولايات المتحدة من استخدام الذكاء الاصطناعي ليست استراتيجية قابلة للتطبيق».
وبعد أقل من عامين، أفادت التقارير أن البنتاغون بدأ في استخدام «كلود» للقيام بأشياء مثل تحديد أهداف الضربة في الصراع الإسرائيلي الإيراني. وعندما سُئل أمودي في مقابلة حديثة عما إذا كانت نماذج أنثروبيك قد استخدمت في هجوم على مدرسة ابتدائية إيرانية أسفر عن مقتل أكثر من 120 شخصًا، أجاب بأنه لا يعرف، ولكن كان من الممكن أن يكون هذا استخدامًا معتمدًا لتقنية الشركة طالما أن الإنسان هو الذي اتخذ القرار النهائي. إنه مثال صارخ على أن رؤية أنثروبيك للذكاء الاصطناعي المسؤول قد لا تتماشى دائمًا مع رؤية الجمهور الأوسع.
ظهرت آراء أنثروبيك القوية حول كيفية استخدام «كلود» أو عدم استخدامه في سياقات أخرى أيضًا. في وقت سابق من هذا الشهر، أصدرت أنثروبيك نموذجًا متطورًا للذكاء الاصطناعي، «كلود فابل 5»، مع وجود ضمانة غير ودية فريدة من نوعها: إذا حاول الباحثون استخدامها لتطوير الذكاء الاصطناعي الحدودي، الأمر الذي من شأنه أن ينتهك شروط خدمة الشركة، فإن أنثروبيك ستقوم بتخريب عملهم سراً. تم انتقاد هذه الخطوة على الفور من قبل الباحثين في مجال الذكاء الاصطناعي وتراجعت أنثروبيك بعد بضعة أيام، قائلة إنها ستجعل الحماية مرئية. وفي بيان لها في ذلك الوقت، قالت أنثروبيك إنها لم تحقق التوازن الصحيح، وأن نيتها كانت إحباط خصوم الولايات المتحدة الأجانب.
صراعات القوة ومستقبل الذكاء الاصطناعي
وقد اعترف أمودي نفسه علنًا بمخاطر السماح بتركيز قدر كبير جدًا من السلطة على الذكاء الاصطناعي في أيدي عدد قليل من المختبرات، بما في ذلك مختبره. وكتب في مقال سابق هذا العام أن المستوى التالي من المخاطر هو في الواقع شركات الذكاء الاصطناعي نفسها.
لكن العلاجات التي يقترحها، والمتمثلة في مراقبة شركات الذكاء الاصطناعي بعناية وربما تقديم التزامات علنية بعدم اتخاذ إجراءات معينة، لن تفعل الكثير لإعادة توزيع تلك السلطة بشكل أساسي. في أجزاء أطول من المقال، يتأمل أمودي في الحجم الهائل لتأثيره والمسؤولية التي تأتي معه. لكنه يتجنب إلى حد كبير تأطير هذه الأمور بمصطلحات شخصية، وبدلاً من ذلك يضعها كمشكلة تشمل الجنس البشري: «إن الإنسانية على وشك أن تُمنح قوة لا يمكن تصورها تقريباً، ومن غير الواضح إلى حد كبير ما إذا كانت أنظمتنا الاجتماعية والسياسية والتكنولوجية تمتلك النضج اللازم لاستخدامها».
ويواصل قائلًا إنها مسؤولية أولئك الأقرب إلى التكنولوجيا أن يقولوا الحقيقة ببساطة حول الوضع الذي تعيشه الإنسانية، وهو ما حاولت دائمًا القيام به.
أحد الانتقادات الشائعة لموقف أنثروبيك هو أن الشركة تعتقد أنها تعرف حقيقة الوضع الذي تعيشه الإنسانية أفضل من غيرها. فهي ترى أن الذكاء الاصطناعي قوي للغاية ولكنه قابل للتحكم في نهاية المطاف، بشرط أن يقود تطويره الأشخاص المناسبون. لكن الحقيقة هي أنه لا أحد يعرف بالضبط كيف سيغير الذكاء الاصطناعي العالم، وبعض الناس لديهم رأي أكبر في هذا الأمر من غيرهم.
إن المسار الذي تسلكه أنثروبيك، والمبني على الاعتقاد بأن القيادة في سباق الذكاء الاصطناعي هي الطريق الوحيد لضمان سلامته، يثير تساؤلات عميقة حول تركيز القوة والمساءلة في هذا المجال الحيوي. ومع استمرار تطور الذكاء الاصطناعي، يبقى النقاش مفتوحًا حول أفضل السبل لمواجهة تحدياته الأخلاقية والاجتماعية، وتحديد من يملك الحق في رسم مستقبله.