ثغرة أمنية في منصة ServiceNow الذكية تكشف عن تحول كبير في مخاطر الأمن السيبراني للمؤسسات

يشكل ظهور ثغرة أمنية في منصة ServiceNow المدعومة بالذكاء الاصطناعي في بداية العام الحالي تحولا هامًا في مفهوم المخاطر السيبرانية داخل المؤسسات. رغم عدم وجود أدلة على استغلال الثغرة قبل إصدار التصحيح، إلا أن هذا الحادث يُعد تحذيرًا قويًا لمتخصصي الأمن السيبراني، حيث يكشف عن مدى تطور التهديدات الأمنية في عصر الذكاء الاصطناعي.

ضعف قدرات الذكاء الاصطناعي التفاعلي يفتح الباب أمام التهديدات

تكمن المشكلة في أن نقاط الضعف في قدرات الذكاء الاصطناعي التي تعتمد على الوكيل يمكن أن تسمح بانتحال شخصية المستخدم وتنفيذ عمليات ذات صلاحيات عالية، مما يبرز كيف أن التهديدات الأمنية تتجاوز الآن حدود الاختراقات التقليدية للبيانات. ومع توقعات أوائل الخبراء أن تصل نسبة التطبيقات المؤسسية التي تعتمد على وكلاء الذكاء الاصطناعي إلى 40% بحلول نهاية 2026، فإن الأمر يكتسب أهمية أكبر.

انتشار الوكلاء غير المُراقبين يهدد الأمان المؤسسي

أظهرت الأبحاث أن نحو 47% من وكلاء الذكاء الاصطناعي يعملون بدون رقابة أو إشراف، وهو ما يترجم إلى حوالي 1.5 مليون وكيل غير مُنظم يُستخدم في المؤسسات الكبرى في المملكة المتحدة والولايات المتحدة. هذا الانتشار غير المُراقب يضاعف من احتمالية وقوع اضطرابات أو استغلالات ضارة تؤدي إلى نتائج كارثية، خاصة في سلاسل التوريد التي تعتمد على ذكاء اصطناعي مستقل.

التحول في نموذج الأمن السيبراني

على مدى العقدين الماضيين، كانت استراتيجيات الأمن ترتكز على حماية الحدود الواضحة، مع التركيز على التعامل مع الاختراقات عند نقاط محددة من الخوادم أو الأنظمة. لكن مع دمج الذكاء الاصطناعي في نواة الأعمال، تغيرت المعادلة، وأصبح من الضروري التركيز على إدارة المخاطر المرتبطة بأفعال الوكلاء الذكيين.

من مخاطر المحتوى إلى مخاطر الأفعال

لم تعد المشكلة فقط تتعلق بالمعلومات المضللة أو الأخطاء في المخرجات، بل تتعلق بشكل أكبر بالمخاطر الناتجة عن تصرفات الوكلاء الذكيين عبر أنظمة متعددة، والتي يمكن أن تنتشر بسرعة قبل أن يكتشفها أحد. فالسؤال الرئيسي الآن هو: ما الذي يُسمح للوكلاء بالقيام به؟ وكيف يتم تفعيل العمليات وتنفيذ المهام ضمن الصلاحيات الممنوحة لهم؟

إدارة التحكم التشغيلي بفعالية

في اختبارات حديثة، أظهر باحثون أن مهاجمين خارجيين يمكنهم، باستخدام عنوان البريد الإلكتروني فقط، إدخال تعليمات خبيثة في البيانات التي ستعالجها وكالات الذكاء الاصطناعي ذات الصلاحيات العالية. إذا لم يتم إدارة هذه الأنظمة بشكل صحيح، فقد يؤدي ذلك إلى تنفيذ عمليات غير مصرح بها، وتوسع في الوصول عبر الأنظمة، وانتشار سريع للأخطاء أو الأفعال الضارة.

أهمية السيطرة التشغيلية في مواجهة التهديدات

الثغرة الأمنية المعروفة التي تسمح بانتحال شخصية المستخدم وتنفيذ إجراءات عشوائية ضمن صلاحيات معينة تُعد من أخطر أنواع الثغرات، خاصة في أنظمة ذكاء اصطناعي تعتمد على تدفق العمل. لذلك، من الضروري معرفة كيف يمكن الحفاظ على السيطرة التشغيلية عند حدوث سلوك غير متوقع من الأنظمة الآلية.

تعزيز إدارة الهوية والصلاحيات

على فرق الأمن السيبراني إعادة تقييم أذونات الوصول، وتدقيق السجلات، ورصد الأنشطة، ووضع خطط للعودة إلى الحالة الأصلية عند الحاجة. يتطلب الأمر إدارة صارمة للهوية، وتصميم صلاحيات أدنى، وتحكم أكثر دقة في الامتيازات، مع مراقبة مستمرة لكل عمليات الدمج والتكامل بين الأنظمة.

تطوير استجابة قيادية جاهزة

مع تزايد الاعتماد على الأتمتة الذكية، يجب أن تتضمن خطط الطوارئ إجراءات واضحة للتعامل مع الثغرات، بما يشمل الكشف السريع، والتواصل الفوري مع الجهات المعنية، وتحديد خطوات الحماية والتعافي. التمرن على سيناريوهات الاستجابة يُعد ضرورة لضمان استمرارية الأعمال وتقليل الضرر.

فجوة المهارات في الأمن السيبراني وتحدي الذكاء الاصطناعي

أشار تقرير مهارات التقنية إلى أن 95% من المهنيين في مجال تكنولوجيا المعلومات والأعمال يرون نقصًا في الدعم اللازم لتطوير مهاراتهم في إدارة أنظمة الذكاء الاصطناعي بأمان. لذا، يتوجب على المؤسسات الاستثمار في تدريب الكوادر المتخصصة، وتحديد نطاق صلاحيات الوكلاء بدقة، وتطوير قدرات الرصد والتدخل السريع.

ماذا على القيادة أن تركز عليه؟

مع تسارع تبني الوكلاء الذكيين، يجب على القادة إعادة تعريف مفهوم المخاطر، ومعاملة الأفعال غير المصرح بها والتلاعب في سير العمل على أنها حالات طوارئ تتطلب تدريبات وتخطيط مشابهة لتلك الخاصة بالهجمات الإلكترونية الكبرى أو الأعطال الحرجة.

الأسئلة الأساسية التي يجب أن يجيب عليها القادة الآن تشمل:

• من يمكنه التصرف نيابة عنا؟
• ما هو زر الإيقاف في حال الطوارئ؟
• وما هي خطوات الحصار في الساعة الأولى من المشكلة؟

التمرين المسبق لهذه السيناريوهات يعزز من قدرة المؤسسات على الحفاظ على استمرارية العمل والتقليل من الأضرار عند وقوع أي خلل.

الخلاصة

تُبرز الثغرات الأمنية المتعلقة بالذكاء الاصطناعي الحاجة الملحة لإعادة النظر في استراتيجيات الأمن السيبراني، والتركيز على التحكم في الأنظمة الآلية، وتطوير المهارات البشرية، وتحقيق الاستعداد التام لمواجهة التهديدات الجديدة التي تتجاوز حدود الحماية التقليدية. فالأمان في عصر الذكاء الاصطناعي يتطلب أكثر من مجرد دفاع عن البيانات؛ إنه حماية لنظام التشغيل ذاته.