نشأ صامويل سيغون في مينا، شمال وسط نيجيريا، وكان يحلم ببناء روبوتات الخيال العلمي. لكن بعد دراسته للفلسفة، تحول تركيزه من سيناريوهات نهاية العالم بأسلوب المدمر إلى المخاطر المباشرة للخوارزميات التي نستخدمها اليوم. من خلال تطوير أطر الذكاء الاصطناعي الأخلاقية الأفريقية إلى صياغة مبادئ توجيهية للتدقيق الخوارزمي مع الإنتربول ومعهد الأمم المتحدة الأقاليمي لبحوث الجريمة والعدالة، يرى سيغون أن التحدي الأكثر إلحاحًا لسلامة الذكاء الاصطناعي ليس انتفاضة الآلات المستقبلية، بل إصلاح الأنظمة التي تعمل بالفعل.
لطالما ركز جزء كبير من النقاش العالمي حول سلامة الذكاء الاصطناعي على سؤال محوري: ماذا لو أصبحت التكنولوجيا أقوى من أن يسيطر عليها البشر؟ كان صامويل سيغون، قائد منتجات الذكاء الاصطناعي والتعلم الآلي وباحث سلامة الذكاء الاصطناعي، مهتمًا بهذا التساؤل أيضًا.
يقول سيغون: عندما كنت أبدأ في مجال سلامة الذكاء الاصطناعي، كان تركيزي ينصب بشكل أكبر على الجانب الوجودي البحت. أشياء مثل أنظمة الذكاء الاصطناعي التي تسيطر على العالم، وهي الرؤى التي نجدها في أفلام مثل Terminator و iRobot. ومع ذلك، قاده بحثه إلى اكتشاف مختلف.
أدرك سيغون أن بعض المشكلات الأكثر خطورة في الذكاء الاصطناعي موجودة بالفعل في واقعنا اليوم: الخوارزميات التي تمارس التمييز ضد الأقليات، وأنظمة التعرف على الوجه التي تعاني من قصور في التعامل مع ذوي البشرة الملونة، والقرارات الآلية التي قد يصعب الطعن في عواقبها. بالنسبة لسيغون، لم يعد السؤال يدور حول ما إذا كانت الآلات قد تسيطر على العالم يومًا ما، بل أصبح يتركز على من سيُحمى، ومن سيُهمش، ومن ستُعكس قيمه عند بناء هذه الأنظمة.
نشأة في حب التكنولوجيا ورحلة إلى الفلسفة
بدأ اهتمام سيغون بالتكنولوجيا مبكرًا. نشأ في مينا، ولاية النيجر، في شمال وسط نيجيريا، وكان طفلاً فضوليًا يعشق القراءة والبناء. كانت مكتبة والده مصدرًا لا ينضب للمعرفة، كما كان يشاهد باستمتاع برامج قناة ديسكفري وناشيونال جيوغرافيك، ليصبح لاحقًا مفتونًا ببرامج مثل كيف صنعت؟ و ميثبوسترز.
يقول سيغون: أدين بالكثير مما أنا عليه اليوم لوالدي، لطبيعته التقدمية. كان يشجعنا دائمًا على القراءة والاهتمام بالأشياء. في المدرسة الثانوية، وجد سيغون رفيقًا يشاركه شغفه بالمستقبل، صديقه نصيرو، حيث كانا يتخيلان تصاميم سيارات ومعدات مستقبلية يمكنهما بناؤها.
لكن فضول سيغون تجاوز البناء المادي إلى أسئلة أعمق حول العالم والعقل والوجود الإنساني. دفعه هذا الشغف إلى دراسة الفلسفة في جامعة كالابار عام 2008. يوضح: اخترت الفلسفة لأنني شعرت أنها قادرة على الإجابة على بعض الأسئلة الغريبة التي كنت أطرحها، والتي كان البعض يصفها بالجنون. لكنني استمررت في التساؤل.
سرعان ما قادته أسئلته إلى ما هو أبعد من الحدود التقليدية للفلسفة، حيث ناقش مع طلاب الطب الأمراض وتخيل الأجهزة الطبية. ركزت أبحاثه الجامعية على الفلسفة العصبية ومشكلة الهوية، مما أثار لديه تساؤلات حول الوعي والحياة الاصطناعية. ومع بدء دراسته للماجستير، أصبحت هذه الأسئلة محور اهتمامه البحثي.
من التساؤلات إلى ريادة المنتجات
بعد تخرجه من جامعة كالابار عام 2012، أسس سيغون شركة Uptrend Media، وهي شركة ناشئة متخصصة في مساعدة شركات التكنولوجيا في مراحلها المبكرة على إجراء أبحاث السوق، وتطوير نماذج المنتجات الأولية (MVPs)، ووضع استراتيجيات لإطلاق أفكارها في السوق.
نبعت فكرة الشركة من تجربة سابقة لسيغون في الجامعة، حيث قام بإجراء استطلاعات رأي خلال انتخابات اتحاد الطلاب على غرار الاستطلاعات الأمريكية. تعاون مع صديق في قسم الرياضيات لتحليل النتائج ونشر التوقعات. يقول: تمكنا من التنبؤ بدرجة معينة من اليقين بمن سيفوز في انتخابات حكومة اتحاد الطلاب بناءً على الاستطلاعات التي أجريناها. بعد التخرج، بدأ يفكر في تحويل هذه التجربة إلى خدمة للشركات الناشئة.
أثناء إدارته لـ Uptrend، قاده أحد العملاء إلى وظيفته التالية في Academix.ng، وهي منصة نيجيرية تعمل على رقمنة الأبحاث والموارد الأكاديمية. كانت Academix تسعى لحل مشكلة نقص الوصول إلى الأبحاث الأكاديمية النيجيرية، والتي كانت مشكلة يعيها سيغون جيدًا من خلال عمله الأكاديمي.
عندما كان سيغون يساعد Academix في حملاتها وعملية الإعداد، أشار إلى أن فهمهم لاحتياجات الباحثين كان غير مكتمل. قاد هذا النقاش إلى عرض للانضمام إلى Academix كرئيس لفريق المنتج في عام 2016. يقول سيغون: سلمت إدارة Uptrend Media لشريكي المؤسس وانضممت إلى Academix.
خلال فترة عمله هناك، كان لسيغون أول تعرض حقيقي له للذكاء الاصطناعي. استضافت Academix دائرة مطوري فيسبوك آنذاك، وكان فريقها يشغل مقاطع فيديو من فريق أبحاث الذكاء الاصطناعي في فيسبوك (Facebook Artificial Intelligence Research). على الرغم من أن بعض المحتوى كان يتجاوز فهم سيغون في ذلك الوقت، إلا أنه لفت انتباهه بشدة. لقد أصبحت مهتمًا بهذه الأمور المتعلقة بالذكاء الاصطناعي وأردت أن أفعلها، لكنني لم أكن أعرف كيف.
في عام 2017، غادر Academix وانضم إلى Univelcity، وهو معهد تدريب تقني، حيث عمل في تطوير الأعمال وإدارة المنتجات. لكن الذكاء الاصطناعي فتح أمامه أفقًا جديدًا للتفكير. بدأ سيغون في البحث عن التكنولوجيا عبر الإنترنت والتفكير في آثارها الأخلاقية. دفعه خلفيته الفلسفية إلى الاهتمام بالأخلاقيات، وبدأ يتساءل عما قد تعنيه هذه الأسئلة للتكنولوجيا التي كان يرغب في فهمها بشكل أعمق. بدأ في كتابة مقترحات الدكتوراه للجامعات، باحثًا عن طريقة لدراسة هذا المجال، وفي يناير 2018، غادر نيجيريا إلى جنوب إفريقيا لبدء دراسة الدكتوراه في جامعة جوهانسبرغ.
إعادة تقييم سلامة الذكاء الاصطناعي: من الوجودي إلى الواقعي
عندما بدأ سيغون دراسة الدكتوراه، كان تركيزه ينصب في البداية على المخاطر الوجودية للذكاء الاصطناعي. يقول: النهج الأولي الذي اتبعته عندما أردت التركيز على سلامة الذكاء الاصطناعي كان موجهًا نحو الجانب الوجودي العميق. لكن مع تعمق البحث، اكتشف مشاكل فعلية تؤثر على الأفراد والمجتمعات.
وجد سيغون مشكلات قائمة بالفعل مثل: التحيز الخوارزمي، وأنظمة التعرف على الوجه التي تواجه صعوبة في تحديد الأشخاص الملونين، وأدوات مثل نظام تقييم إدارة المجرمين لتحديد العقوبات البديلة (COMPAS) الذي يستخدم للتنبؤ بإمكانية ارتكاب شخص لجريمة أخرى. يقول: لقد أدركت للتو أن هناك العديد من المشكلات الملموسة التي يمكن العثور عليها بالفعل.
أصبحت أسئلته أكثر تحديدًا: هل يمكن تمثيل العدالة رياضيًا؟ هل يمكن تمثيل الحياد والشفافية بطريقة قابلة للتطبيق فعليًا على أنظمة الذكاء الاصطناعي؟
في جامعة جوهانسبرغ عام 2019، عمل سيغون مع باحثين ومهندسين في معهد أنظمة الذكاء، مما قاده إلى تساؤل آخر: إذا كان الناس في مجتمعات مختلفة يفهمون المسائل الأخلاقية بشكل متباين، فهل ينبغي لأنظمة الذكاء الاصطناعي أن تأخذ هذه الاختلافات في الاعتبار أيضًا؟
أصبح هذا هو محور أطروحته، بعنوان بناء إطار أخلاقي أفريقي لأنظمة الاستخبارات المستقلة، حيث استكشف ما إذا كانت المبادئ الأخلاقية المتجذرة في السياقات الثقافية الأفريقية وغيرها يمكن أن تساعد في تشكيل أنظمة الذكاء الاصطناعي للمجتمعات التي ستعمل فيها. كما غذت هذه الفكرة ورقة بحثية عام 2020 بعنوان المشاركة النقدية لأخلاقيات الذكاء الاصطناعي للجمهور العالمي، والتي أكدت على ضرورة مراعاة الاختلافات الثقافية في فهم المسائل الأخلاقية عند بناء أنظمة الذكاء الاصطناعي.
مع تطور عمله، بدأ سيغون في جذب الاهتمام داخل الجامعة. يقول: أعتقد أنه في تلك المرحلة، أصبح الأمر واضحًا بالنسبة لي. لقد قدمت مساهمة أساسية للغاية. بعد حصوله على الدكتوراه عام 2020، انضم سيغون إلى جامعة ستيلينبوش بجنوب إفريقيا كزميل ما بعد الدكتوراه، مواصلاً عمله في الأخلاقيات الحسابية والبيانات.
بناء حواجز حماية عملية للذكاء الاصطناعي
في يناير 2022، انضم سيغون إلى Praelexis AI، وهي شركة أبحاث تعلم آلة في جنوب إفريقيا، كمدير لمنتجات الذكاء الاصطناعي والتعلم الآلي (AI/ML). من خلال مشاريع الشركة لعدة عملاء، بما في ذلك التحليلات المصرفية، شاهد سيغون عن كثب كيف يمكن أن تسوء أنظمة الذكاء الاصطناعي.
يقول سيغون: لقد تمكنت من رؤية الدور الحيوي للتدقيق الخوارزمي وسبب أهميته في فهم نقاط الضعف المحتملة للأنظمة. لقد لاحظ كيف يتم اختبار النماذج واختبار الإجهاد، وكيف يمكن لعوامل مثل الموقع والجنس والعمر والعرق أن تؤثر على قراراتها.
بالتوازي مع ذلك، عمل سيغون كمستشار في مجال ابتكار وتكنولوجيا الذكاء الاصطناعي لمعهد الأمم المتحدة الأقاليمي لبحوث الجريمة والعدالة (UNICRI)، وهو معهد أبحاث تابع للأمم المتحدة يركز على منع الجريمة والعدالة الجنائية والاستخدام المسؤول للتقنيات الناشئة، بالتعاون مع الإنتربول.
في مشروع مشترك بين UNICRI والإنتربول لتطوير أداة لإنفاذ القانون، كان سيغون أحد المستشارين الرئيسيين. قام بتطوير مبادئ توجيهية لتدقيق الخوارزميات، وتقييم المنظمات، وعمل على تقييمات الاستعداد والمخاطر. كان جزء من مهمته ترجمة مبادئ مثل العدالة وقابلية التفسير والقوة إلى خطوات عملية يمكن لوكالات إنفاذ القانون تطبيقها.
يقول: كنا نجري تفاعلات واجتماعات مستمرة مع فرق الإنتربول، وكانوا يقولون: إذا أردنا تفعيل هذا الأمر، فقد يكون صعبًا على رؤساء الشرطة. أظهرت له هذه التجربة الفجوة بين مناقشة أخلاقيات الذكاء الاصطناعي في الأوساط الأكاديمية وتنفيذها الفعلي داخل المؤسسات.
ويضيف: أعتقد أن الأهم من ذلك هو أن العمل الذي قمت به مع UNICRI والإنتربول، ولاحقًا مع مكتب الأمم المتحدة لمكافحة الإرهاب، علمني كيفية توسيع نطاق الأفكار. بينما كان لا يزال يعمل مستشارًا لـ UNICRI، عاد سيغون إلى إدارة المنتجات، لينضم في يونيو 2023 إلى Evolve Credit، وهي شركة نيجيرية للبنية التحتية للخدمات المالية، حيث عمل على توسعها في أمريكا الشمالية ودعم تطوير الأدوات المدعومة بالذكاء الاصطناعي.
تطبيق حوكمة الذكاء الاصطناعي على أرض الواقع
في يونيو 2024، انضم سيغون إلى المركز العالمي لحوكمة الذكاء الاصطناعي بصفته مديرًا فنيًا أول للبرامج، حيث قاد أبحاثًا حول سلامة الذكاء الاصطناعي، بما في ذلك تقييم نماذج اللغات الرائدة وتصنيف مخاطر الذكاء الاصطناعي. كما أشرف على العمل المتعلق بـ أجندة أفريقية نحو سلامة الذكاء الاصطناعي، وهي ورقة بحثية حددت المخاطر التي تتطلب اهتمامًا خاصًا في القارة.
يقول سيغون: إنها دراسة فريدة من نوعها لأنها حددت ما يقرب من 15 فئة من فئات المخاطر التي تنفرد بها القارة. إنها واحدة من الأشياء التي أتمسك بها كثيرًا. وقد عزز هذا العمل وجهة نظره بأن إفريقيا تواجه فجوة كبيرة في القدرات والمعرفة اللازمة للاستعداد لتأثير الذكاء الاصطناعي.
يضيف: يمكنك أن ترى ذلك من خلال كيفية قيام الخوارزميات على منصات التواصل الاجتماعي بتعزيز معتقدات معينة أو توجيه الأطفال بطرق معينة. إنها ليست مجرد تكنولوجيا، إنها تكنولوجيا ذات أهمية حاسمة. بالنسبة لسيغون، لا يقتصر التحدي على مجرد الوصول إلى تكنولوجيا الذكاء الاصطناعي، بل تحتاج الحكومات والمؤسسات إلى الخبرة اللازمة لفهم الذكاء الاصطناعي، وتقييم مخاطره، واتخاذ قرارات مستنيرة حول كيفية استخدامه.
ويؤكد: نحن بحاجة إلى دعم صانعي السياسات والممارسين بالأدوات والمعرفة التكنولوجية الصحيحة، لضمان أن تكون السياسات سليمة ومستنيرة وتأخذ في الاعتبار التحديات المحلية. وهذا يعني منح صانعي السياسات فهمًا فنيًا كافيًا لتحديد المخاطر وطلب الضمانات لأنظمة الذكاء الاصطناعي التي يمكن أن يكون لها تأثيرات كبيرة في مجالات مثل الرعاية الصحية والتعليم.
يتساءل سيغون: كيف ندرب صانعي السياسات على فهم العواقب الحقيقية؟ كيف ندربهم على فهم التكنولوجيا بما يكفي ليقولوا: ‘هذه خطوط حمراء. ونحن نطالب بمراجعة النموذج’؟ لقد رأى أن الأمر يتعلق بالقدرة المؤسسية، تمامًا كما كان الحال مع حماية البيانات. ويقول: بنفس الطريقة التي نمتلك بها القدرة المؤسسية لحماية البيانات، سنحتاج إلى المزيد من هذه القدرة في مجال الذكاء الاصطناعي.
هذا الاهتمام بجعل المعرفة التقنية مفيدة خارج الدوائر المتخصصة أدى أيضًا إلى مشروع آخر؛ فبينما كان في المركز العالمي، أسس سيغون المراجعة الخوارزمية، وهو منشور يركز على التقنيات الناشئة وأصوات من الأغلبية العالمية. يقول: كانت الفكرة هي التأكد من أن أي شخص يمكنه قراءة مقال وفهمه دون الحاجة إلى استخدام المصطلحات المعقدة، مع الاستمرار في إدراك آثار تلك التكنولوجيا عليه وما يجب عليه فعله. لقد أراد أن يفهم الناس ليس فقط ما يمكن أن تفعله التقنيات الناشئة، بل كيف يمكن أن تؤثر على حياتهم.
البناء من أجل المستقبل
عاد سيغون الآن إلى بناء التكنولوجيا الرائدة بنفسه. في عام 2025، شارك في تأسيس Quelox Labs، وهي شركة صناعية متخصصة في الذكاء الاصطناعي ومقرها فانكوفر بكندا. تم تصميم منتجها الأول، فاكتوري (Factory)، لربط معدات المصانع الحالية وتزويد الشركات المصنعة برؤية فورية لعملياتها.
تستخدم الشركة هذه البيانات لتطوير أدوات لأتمتة العمليات، وتشخيص المشكلات، والتنبؤ بموعد احتياج الآلات للصيانة قبل أن يصبح العطل مكلفًا. في الوقت الحالي، تركز Quelox على إطلاق منتجها في عدة مصانع وجمع جولة تمويل ما قبل التأسيس مع نموها.
بالنسبة لسيغون، يُعد بناء Quelox جزءًا من رحلة أطول للتعلم بالممارسة. ويؤمن بضرورة أن يجرب المزيد من الأشخاص الأفكار، حتى عندما لا يكونون متأكدين إلى أين ستقودهم. يقول: في بعض الأحيان، ابنِ الأشياء لمجرد البناء. ليس من الضروري أن تكون ضخمة أو أن تصبح شركة ناشئة ممولة. لا بأس أن تبني شيئًا وتفشل، فهناك الكثير لنتعلمه منه.