لطالما بدا مفهوم مفتاح إيقاف الذكاء الاصطناعي – أي وسيلة لإنهاء عمل العملاء الخارجين عن السيطرة – مثيراً للاهتمام، لكن قادة الأمن بدؤوا الآن يتحدثون بشكل مفتوح وعملي عن سبب الحاجة إليه وكيفية استخدامه.
وسط سلسلة من خروقات البيانات والحوادث السيبرانية المرتبطة بنماذج الذكاء الاصطناعي المتقدمة (AI)، افتتح متخصص الهوية Okta آفاقاً جديدة في مؤتمر Oktane 2026 بلاس فيغاس. أصبحت Okta إحدى أولى شركات الأمن السيبراني التي تطلق بشكل صريح «مفتاح إيقاف» للذكاء الاصطناعي كجزء من سلسلة تحسينات لعروضها المخصصة لوكلاء الذكاء الاصطناعي.
إن فكرة مفتاح الإيقاف لنماذج وعملاء الذكاء الاصطناعي المارقين تكتسب زخماً متزايداً. يبدو أن السياسيين في كل من المملكة المتحدة والولايات المتحدة يؤيدون هذا المفهوم، ويقدم المركز الوطني للأمن السيبراني (NCSC) الآن المشورة للمنظمات للنظر في تنفيذ مفاتيح الإيقاف. ومع ذلك، رفضت العديد من مصادر الصناعة، بمن فيهم الموردون ذوو المصالح الواضحة في مراقبة الوكلاء والتحكم فيهم، مناقشة الأمر رسمياً.
بالنظر إلى التحذيرات الخطيرة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي العملاقة مثل Anthropic وOpenAI، ربما يكون هذا التحفظ مفهوماً. فالتحدث دون الاعتبار الواجب قد يخاطر بتشكيل مفاتيح الإيقاف في الوعي العام الأوسع كزر نووي مصمم للاستخدام كملاذ أخير ضد الذكاء الاصطناعي الذي يشكل خطراً وجودياً.
تكثر الأمثلة الخيالية لأنظمة الذكاء الاصطناعي هذه، مثل Skynet في سلسلة أفلام «المدمر»، أو هال 9000 في فيلم «2001: أوديسة الفضاء».
بصفته طفلاً في الثمانينيات نشأ على الخيال العلمي، يدرك إريك كيليهر، رئيس شركة Okta ومدير العمليات الرئيسي (COO)، هذه المخاوف، ويقول إن حادثة Hugging Face تضفي بعض المصداقية عليها. في الواقع، لم يكن يجري هذه المحادثات حول مائدة العشاء مع أصدقائه فحسب، بل مع العملاء من الشركات أيضاً.
وقال كيليهر: «إذا كنت مؤسسة اليوم، فإن كل بائعي التكنولوجيا على هذا الكوكب يأتون إليك ويخبرونك أنهم سيقومون بحل الذكاء الاصطناعي لك». وأضاف: «يصعب عليهم تحديد ماذا، ومن سيؤمن ماذا، ومن سيساعد في ضمان عدم تعريض شركاتهم للخطر».
واجب الرعاية
يعتقد كيليهر أن شركة Okta ملزمة بمساعدة الصناعة على التعامل بذكاء مع مفاتيح إيقاف الذكاء الاصطناعي بفضل تاريخها في مجال الهوية. في عمر 17 عاماً، تعالج Okta الآن أكثر من 58 مليار حدث مصادقة شهرياً، وتحظر حوالي ثمانية مليارات منها. ويغذي نشاط الوكيل هذه الحلقة بأنماط مماثلة، مما يضع Okta، على حد قوله، في وضع فريد.
يقول كيليهر: «أود أن أقول إن مفتاح الإيقاف هو الميزة الأكثر طلباً، وذلك لأنه على المستوى البشري، يسمع الناس هذه الروايات ويريدون زراً أحمر كبيراً، ومفتاح الإيقاف هو وكيل لذلك، لذلك كان من المهم لنا جميعاً أن نجعله متاحاً حتى تكون لديهم تلك القدرة… بالنسبة لنا، كان الأمر دائماً بديهياً».
في الوقت الحالي، تعيش شخصيات مثل سارة كونور وديف بومان في عالم الخيال العلمي فقط. يقول كيليهر إن الواقع يميل إلى أن يكون أكثر واقعية إلى حد ما. وعلى سبيل التوضيح، فإن نسخة Okta من مفتاح الإيقاف بعيدة كل البعد في طبيعتها عن «الزر الأحمر الكبير» الذي يحب الجمهور تخيله.
ليس مفهوماً جديداً
بالنسبة لـ Okta، فإن مفتاح الإيقاف ليس جديداً من حيث المفهوم – فهو يحتوي بالفعل على ميزة مشابهة وظيفياً تسمى «تسجيل الخروج الشامل»، الذي ينهي الجلسات التي يقودها الإنسان إذا تم تحديد تغيير في المخاطر. لقد كان هذا موجوداً منذ سنوات، ووصف كيليهر مفتاح إيقاف الوكيل بأنه مشابه له أساسياً.
إذن ما هو؟ من المقرر أن يصبح مفتاح إيقاف Okta متاحاً بشكل عام بحلول نهاية عام 2026، وهو يعمل على تحسين مفتاح الإيقاف اليدوي الحالي – الذي يقوم بإلغاء تنشيط الوكلاء وحظر الجلسات الجديدة من خلال وحدة تحكم مسؤول Okta – ولكنه ينقله إلى بوابة الوكيل (Agent Gateway).
بوابة الوكيل هي ميزة جديدة أخرى تقع بين الوكلاء واستدعاءات الأدوات لفرض تفاعلات السياسة والسجل في وقت التشغيل. وأفضل وصف له هو أنه موقع مركزي لتوزيع الرموز سريعة الزوال التي تمكن الوكلاء من الانطلاق والوصول إلى الموارد اللازمة.
تعتقد Okta أن وضع هذه الآلية عند نقطة اختناق طبيعية أمر منطقي لأنه يعني أنه في حالة اكتشاف سلوك غير طبيعي من جانب العميل، يمكن إلغاء رموزه النشطة على الفور في بوابة الوكيل وإيقاف كل جلسة «أثناء الرحلة» الجارية تلقائياً. ويمكن أيضاً أتمتة هذه العملية استناداً إلى عتبات المخاطر الديناميكية.
يصف كيليهر الأداة بأنها وسيلة للحد من نصف قطر الانفجار، ولكنه واضح تماماً، وكذلك يجب على المستخدمين النهائيين أن يكونوا كذلك، وهو أن مفتاح الإيقاف لا يقوم في أي وقت بإصلاح أي شيء فعله العميل.
البراغماتية تملك زمام الأمور
يقول كيليهر إنه من خلال المحادثات التي أجراها مع عملاء Okta، فإن الرغبة في استخدام مفاتيح الإيقاف موجودة. ويقول: «عملاؤنا هم مديرون تنفيذيون في مجال الأمن، والمنهج الذي يتبعه المسؤولون التنفيذيون في مجال الأمن في التعامل مع كل مشكلة هو أن يكون متحفظاً لأن وظيفتهم هي تخفيف المخاطر».
ويضيف: «إن مفتاح الإيقاف هو أداة متحفظة للغاية – فأنت لست متأكداً مما يحدث بالضبط، ولكن إذا قمت بإيقاف تشغيله، فيمكنك بعد ذلك التحقق مما حدث بالفعل ومدى سوء الأمر».
سواء كان متحفظاً أم لا، بالنسبة لعملاء Okta الذين علموا أيضاً عن ميزة مفتاح الإيقاف الجديدة هذا الأسبوع، كان الموقف بالتأكيد هو القبول. باختصار، أصبح المشترون الآن جاهزين بالفعل لإجراء المحادثات التي ما زال بعض الموردين يثيرون اهتمامهم بها.
بريان ستول، كبير مسؤولي التكنولوجيا (CTO) في المؤسسة الخيرية «المطبخ المركزي العالمي»، التي تقدم الإغاثة الغذائية للمجتمعات المنكوبة، هو أحد مستخدمي Okta على المدى الطويل ويشارك أيضاً في تحالف Blueprint Alliance الخاص بالشركة – وهو تحالف متعدد الموردين مخصص لتأمين الذكاء الاصطناعي الوكيل، والذي تم الإعلان عنه أيضاً في Oktane. وفي حديثه لمجلة Computer Weekly، قال ستول إنه في ظاهر الأمر، كان يؤيد مفاتيح الإيقاف.
وقال: «باعتباري مديراً للتكنولوجيا، فأنا مسؤول تماماً عن وجود هذا النوع من القيادة والسيطرة في مجال نفوذي».
وأضاف ستول: «إن امتلاك القدرة على استخدام مفتاح الإيقاف، إذا لزم الأمر، على عملائي أو العملاء الأجانب الذين يعملون على متن طائرة التحكم الخاصة بي، أعتقد أن هذا أمر بالغ الأهمية. سوف يصبح عنصراً حاسماً في مخزون تكنولوجيا المعلومات».
جون ويليامز، مهندس استراتيجية IAM الرئيسي في عملاق الألعاب عبر الإنترنت «Flutter Entertainment»، التي تدعم كلاً من Betfair وPaddy Power، من بين آخرين، متحمس بالمثل لهذا المفهوم. وقال: «أعتقد بالتأكيد أننا في حاجة إليها – ليس هناك شك في ذلك».
وقال ستول إنه فكر بالفعل في السيناريوهات التي قد يستخدم فيها مفتاح الإيقاف. وأشار إلى أن الحدث المحفز قد لا يحدث بالضرورة أثناء حادث الأمن السيبراني – فقد يكون ذلك بسبب قيام أحد العملاء بانتهاك ضوابط التكلفة التي لم يتم إعدادها بشكل صحيح.
وقال: «إذا كان هناك أي مؤشر على وصوله إلى البيانات وإساءة استخدامها، فأنا أفضل إيقافه، ثم اكتشافه لاحقاً، بدلاً من عدمه».
وأضاف ويليامز أنه من وجهة نظره فإن استخدام مفاتيح الإيقاف على عملاء الذكاء الاصطناعي هو سؤال معقد للغاية ودقيق ويتطلب قدراً كبيراً من التفكير.
وقال: «ليس لدي إجابة رائعة، أخشى. هناك الكثير مما يجب اعتباره جزءاً من ذلك».
قال ويليامز: «التحدي هو متى نستخدم ذلك وما الذي يثير ذلك. هل هو قرار بشري؟ البشر بطيئون للغاية، في كثير من الأحيان، ويعود الأمر إلى السؤال حول ما هي البيانات التي نحتاجها لاتخاذ قرار فقدنا الثقة فيه الآن؟ ربما لن يكون الإنسان هو الذي يتخذ هذا القرار، لذلك هناك مفارقة هناك».
واختتم ستول بالإشارة إلى أن مصطلح مفتاح الإيقاف قد يحتاج إلى بعض التحسين. وقال: «هذا يعني أننا نغلق كل شيء، لكنني أفضل إغلاق الأشياء الإشكالية وعدم التأثير على الأشياء التي تعمل بشكل جيد».
في الختام، بينما تتطور قدرات الذكاء الاصطناعي بوتيرة سريعة، يصبح النقاش حول آليات التحكم والإيقاف ضرورة ملحة. إن إطلاق Okta لمفتاح إيقاف الذكاء الاصطناعي في Oktane 2026 يمثل خطوة مهمة نحو دمج البراغماتية الأمنية في عالم وكلاء الذكاء الاصطناعي، مما يوفر للشركات أداة حاسمة لتخفيف المخاطر والحفاظ على السيطرة في مشهد تكنولوجي دائم التغير.