يقدم VentureBeat: AI Unleashed – حدث تنفيذي حصري لقادة بيانات المؤسسات. استمع إلى كبار قادة الصناعة في 15 نوفمبر. احجز تذكرتك المجانية
تعتمد فرق DevOps بشكل أكبر على مساعدي التشفير بالذكاء الاصطناعي لتعزيز إنتاجية الفريق من خلال أتمتة مهام البرمجة باستخدام الكود النهائي للمسح الضوئي الأكثر دقة بحثًا عن العيوب الأمنية. فوريستر يحذر فيهم توقعات الأمن السيبراني والمخاطر والخصوصية لعام 2024.
تتوقع شركة الأبحاث والاستشارات أن ممارسات الامتثال والحوكمة غير المتسقة جنبًا إلى جنب مع العديد من فرق Devops التي تجرب العديد من مساعدي ترميز الذكاء الاصطناعي في وقت واحد لزيادة الإنتاجية ستؤدي إلى كود ذكاء اصطناعي معيب مسؤول عن ثلاثة انتهاكات معترف بها علنًا على الأقل في عام 2024. وتحذر شركة Forrester أيضًا من أن الذكاء الاصطناعي ستشكل عيوب التعليمات البرمجية مخاطر أمنية لواجهة برمجة التطبيقات.
49% من المتخصصين في مجال الأعمال والتكنولوجيا الذين لديهم معرفة بمساعدي ترميز الذكاء الاصطناعي يقولون إن مؤسساتهم تقوم بتجريبها أو تنفيذها أو نفذتها بالفعل في مؤسساتهم. وتتوقع جارتنر ذلك بحلول عام 202875% من مهندسي برمجيات المؤسسات سيستخدمون مساعدي التشفير بالذكاء الاصطناعي، ارتفاعًا من أقل من 10% في أوائل عام 2023.
أخبر قادة Devops VentureBeat أنه من الشائع العثور على العديد من مساعدي ترميز الذكاء الاصطناعي الذين يتم استخدامهم عبر الفرق مع تزايد الضغط لإنتاج حجم كبير من التعليمات البرمجية كل يوم. تؤدي الجداول الزمنية الأكثر صرامة للتشفير الأكثر تعقيدًا جنبًا إلى جنب مع انتشار أكثر من 40 مساعدًا متاحًا للتشفير بالذكاء الاصطناعي إلى شكل جديد من تكنولوجيا المعلومات الظلية حيث تتحول فرق Devops من مساعد ذكاء اصطناعي إلى آخر لمعرفة أيهما يقدم أعلى أداء لمهمة معينة. تكافح الشركات لمواكبة الطلب من فرق Devops الخاصة بها على أدوات ترميز الذكاء الاصطناعي الجديدة المعتمدة للاستخدام على مستوى الشركة.
حدث VB
إطلاق العنان لمنظمة العفو الدولية
لا تفوتوا لعبة AI Unleashed في 15 نوفمبر! سيعرض هذا الحدث الافتراضي رؤى حصرية وأفضل الممارسات من قادة البيانات بما في ذلك Albertsons وIntuit والمزيد.
يتوفر مساعدو ترميز الذكاء الاصطناعي من كبار موفري الذكاء الاصطناعي وماجستير إدارة الأعمال، بما في ذلك Anthropic وAmazon وGitHub وGitLab وGoogle وHugging Face وIBM وMeta وParasoft وRed Hat وSalesforce وServiceNow وStability AI وTabnine وغيرها.
يواجه كبار مسؤولي تكنولوجيا المعلومات عملية موازنة صعبة في عام 2024
تعكس توقعات Forrester للأمن السيبراني والمخاطر والخصوصية عامًا مليئًا بالتحديات أمام كبار مسؤولي تكنولوجيا المعلومات الذين سيحتاجون إلى موازنة مكاسب الإنتاجية التي يوفرها الذكاء الاصطناعي التوليدي مع الحاجة إلى قدر أكبر من الامتثال والحوكمة والأمن لنماذج الذكاء الاصطناعي والتعلم الآلي قيد التطوير.
سيكون الامتثال بشكل صحيح أمرًا ضروريًا لحماية الملكية الفكرية، وهي الأصل الوحيد الذي لا يرغب أحد في تعريضه للخطر على الرغم من المكاسب التدريجية التي يحققها الذكاء الاصطناعي المولد اليوم.
إن مدى قدرة CISO وفرقهم على تثليث الابتكار والامتثال والحوكمة لمنح شركاتهم ميزة تنافسية في عام 2024 سيكون قابلاً للقياس في عام 2024 أكثر من أي عام سابق. إن مكاسب إنتاجية الذكاء الاصطناعي التوليدي متوازنة مع المخاطر، وستكون الحاجة إلى حواجز حماية موثوقة قضية رئيسية من المرجح أن يتعامل معها كل CISO في العام المقبل أيضًا.
الهدف: تحقيق مكاسب الابتكار في الذكاء الاصطناعي مع تقليل المخاطر
ترشد توقعات Forrester للأمن السيبراني والمخاطر والخصوصية لعام 2024 كل مؤسسة نحو تحقيق مكاسب أكبر في مجال الابتكار في مجال الذكاء الاصطناعي مع تقليل مخاطر الاختراقات البشرية والانتهاكات المستندة إلى التعليمات البرمجية. وهي تعكس مجتمعة مدى إلحاح تحقيق الامتثال والحوكمة وحواجز الحماية لنماذج الذكاء الاصطناعي والتعلم الآلي الجديدة أولاً، وبالتالي فإن مكاسب الإنتاجية من أدوات البرمجة وأدوات التطوير المستندة إلى الذكاء الاصطناعي توفر أكبر فائدة بأقل المخاطر.
“في عام 2024، مع تبني المؤسسات لضرورة الذكاء الاصطناعي التوليدي (genAI)، ستكون الحوكمة والمساءلة عنصرًا حاسمًا لضمان أن استخدام الذكاء الاصطناعي أخلاقي ولا ينتهك المتطلبات التنظيمية”. يكتب Forrester في توقعاتهم للأمن السيبراني. ويستمر التقرير قائلاً: “سيمكن هذا المؤسسات من الانتقال بأمان من التجريب إلى تنفيذ التقنيات الجديدة القائمة على الذكاء الاصطناعي”.
تظهر بيانات Forrester لعام 2023 ذلك 53% من صانعي القرار في مجال الذكاء الاصطناعي الذين أجرت مؤسساتهم تغييرات في السياسة فيما يتعلق بجين الذكاء الاصطناعي، يقومون بتطوير برامج حوكمة الذكاء الاصطناعي الخاصة بهم لدعم حالات استخدام الذكاء الاصطناعي.
وفيما يلي توقعاتهم لعام 2024:
الاحتيالGPT كانت مجرد بداية لكيفية قيام المهاجمين بتسليح الذكاء الاصطناعي التوليدي والمضي قدمًا جارح. سيشهد عام 2024 ارتفاعًا كبيرًا في هجمات الهندسة الاجتماعية من 74% من جميع محاولات الاختراق إلى 90% في العام المقبل. تحذر شركة Forrester من أنهم يرون أن العنصر البشري يتعرض للهجوم أكثر من أي وقت مضى.
هذه أخبار مثيرة للقلق بالنسبة لصناعة ستشهد بعضًا من أكثر هجمات برامج الفدية تدميراً في عام 2023 بدأت بمكالمة هاتفية. الأساليب الحالية للتدريب على الوعي الأمني ليست فعالة. تشير شركة Forrester إلى أن المطلوب هو اتباع نهج يعتمد على البيانات بشكل أكبر لتغيير السلوك والذي يحدد حجم المخاطر البشرية ويوفر تعليقات تدريبية في الوقت الفعلي للموظفين والفجوات الإدراكية التي قد تكون لديهم في تحديد التهديدات.
ستقوم شركات التأمين السيبراني بتشديد معاييرها، ووضع علامة حمراء على اثنين من بائعي التكنولوجيا باعتبارهما عاليي المخاطر
إن الجمع بين بيانات القياس عن بعد الأكبر في الوقت الفعلي والتحليلات الأكثر قوة وأدوات الذكاء الاصطناعي الجيني لتحليلها سيمنح شركات التأمين الرؤية التي احتاجتها لسنوات لتقليل مخاطرها. تلاحظ شركة Forrester أن شركات التأمين سيكون لديها أيضًا المزيد من الأفكار الخدمات الأمنية والشراكات التقنية والمزيد من الرؤى المستندة إلى البيانات، بما في ذلك الأدلة الجنائية من مطالبات التأمين.
نظرًا للعدد المتزايد وشدة الضربات الهائلة من واحد إلى متعدد الانتهاكات مثل MOVEitوتتوقع شركة Forrester أن يتم تقييم موردي الخدمات الأمنية من خلال تسجيل المخاطر والحسابات التي سيتم استخدامها أيضًا لحساب أقساط التأمين لعملائهم الذين يسعون إلى التغطية.
توقع رؤية تطبيق يستند إلى ChatGPT يتم تغريمه بسبب سوء التعامل مع معلومات التعريف الشخصية (PII)
يتضمن هذا التوقع مدى ضعف أنظمة إدارة الهوية والوصول (IAM) للهجوم. يعد Active Directory (AD) أحد الأهداف الأكثر شيوعًا لأي هجوم بدافع الهوية. تقريبًا 95 مليون حساب Active Directory تتعرض للهجوم يوميًا، حيث تستخدم 90% من المؤسسات منصة الهوية كطريقة أساسية للمصادقة وتفويض المستخدم. جون تولبرت, مدير أبحاث الأمن السيبراني والمحلل الرئيسي في كوبينجر كول, يكتب في التقرير الهوية والأمن: معالجة مشهد التهديد الحديث: “تعد مكونات Active Directory أهدافًا ذات أولوية عالية في الحملات، وبمجرد العثور عليها، يمكن للمهاجمين إنشاء غابات ومجالات Active Directory (AD) إضافية وإنشاء علاقات ثقة فيما بينها لتسهيل الوصول إليها من جانبهم. ويمكنهم أيضًا إنشاء اتحادات ثقة بين نطاقات مختلفة تمامًا. ويوضح هذا التوقع مدى ضعف أنظمة إدارة الهوية والوصول (IAM) للهجوم. يعد Active Directory (AD) أحد الأهداف الأكثر شيوعًا لأي هجوم بدافع الهوية. تقريبًا 95 مليون حساب Active Directory تتعرض للهجوم يوميًا، حيث تستخدم 90% من المؤسسات منصة الهوية كطريقة أساسية للمصادقة وتفويض المستخدم. جون تولبرت, مدير أبحاث الأمن السيبراني والمحلل الرئيسي في كوبينجر كول, يكتب في التقرير الهوية والأمن: معالجة مشهد التهديد الحديث: “تعد مكونات Active Directory أهدافًا ذات أولوية عالية في الحملات، وبمجرد العثور عليها، يمكن للمهاجمين إنشاء غابات ومجالات Active Directory (AD) إضافية وإنشاء علاقات ثقة فيما بينها لتسهيل الوصول إليها من جانبهم. يمكنهم أيضًا إنشاء علاقات ثقة اتحادية بين مجالات مختلفة تمامًا.
تشير Forrester إلى أن OpenAI لا تزال تتلقى مزيدًا من التدقيق التنظيمي مع استمرارها التحقيق في إيطاليا، والمحامون في بولندا يتعاملون مع أ جديد دعوى قضائية للعديد من الانتهاكات المحتملة للقانون العام لحماية البيانات. ونتيجة لذلك، أطلق المجلس الأوروبي لحماية البيانات وحدة حربية لتنسيق إجراءات الإنفاذ ضد ChatGPT الخاص بـ OpenAI. في الولايات المتحدة، لجنة التجارة الفيدرالية تحقق أيضًا OpenAI. في حين أن OpenAI لديها الموارد التقنية والمالية للدفاع عن نفسها ضد المنظمين، تطبيقات الطرف الثالث الأخرى تشغيل ChatGPT لا تفعل ذلك.
سوف تتضاعف الأدوار والمناصب العليا ذات الثقة المعدومة عبر القطاعين العام والخاص العالميين
حاليا، هناك 92 منصب ثقة صفر متاح في الولايات المتحدة المعلن عنه على LinkedIn و 151 في جميع أنحاء العالم. إن توقعات شركة Forrester المتفائلة بتضاعف نمو مركز الثقة الصفرية خلال الاثني عشر شهرًا القادمة مدعومة بالاعتماد الأوسع نطاقًا لـ NIST بنية الثقة المعدومة الإطار عبر قاعدة عملائهم. وتتوقع شركة Forrester أن يؤدي اعتماد الثقة المعدومة أيضًا إلى زيادة الطلب على متخصصي الأمن السيبراني ذوي الخبرة في مجالات الهندسة والحوكمة والاستراتيجية والقيادة. سيتم وضع هذه المناصب داخل المنظمات الأمنية التابعة للوكالة الفيدرالية وستصبح عنصرًا أساسيًا في التوظيف والخدمات للشركات التي تزيد من وظائف الوكالة ومؤسسات القطاع الخاص المسؤولة عن الدعم 85% من البنية التحتية الحيوية في الولايات المتحدة. تنصح شركة Forrester عملائها بالاستعداد من خلال مراجعة متطلبات دور الثقة المعدومة في مؤسساتهم وتحديد مجموعة من الأفراد لمتابعتهم شهادات الثقة المعدومة.
مهمة VentureBeat هو أن تكون ساحة مدينة رقمية لصانعي القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف ملخصاتنا.