قوانين الاتحاد الأوروبي للذكاء الاصطناعي تتطلب الشفافية والمساءلة

ضعف الوعي بمسؤولية الذكاء الاصطناعي في الشركات

أظهر بحث حديث من ISACA أن 38% فقط من العاملين يمكنهم تحديد من المسؤول عن الأخطاء في أعمالهم بدقة.
كما أن أكثر من نصف (59%) منهم غير متأكدين حتى من مدى سرعة إيقاف تشغيل الذكاء الاصطناعي في حالة الطوارئ.

مخاطر الاعتماد المفرط على الذكاء الاصطناعي

على الرغم من الانتشار السريع للذكاء الاصطناعي، إلا أن العديد من الشركات قد تكون تسير بشكل أعمى.
فوفقًا للدراسة، نحو نصف الشركات في المملكة المتحدة (59%) لا تعرف مدى سرعة إيقاف الذكاء الاصطناعي خلال أزمة.

ضعف الاستجابة وإدارة الأزمات

• فقط حوالي واحد من كل خمسة (21%) من المشاركين يشعرون بالثقة في إمكانية إيقاف نظام ذكاء اصطناعي خلال 30 دقيقة.
• هذا يبرز وجود ثغرات كبيرة في السلامة والأمان.

قلة الشفافية في أخطاء الذكاء الاصطناعي

• ليس فقط إيقاف الأنظمة هو المشكلة، بل إن نصف الشركات (42%) فقط تستطيع شرح إخفاقات الذكاء الاصطناعي للقيادة أو الجهات التنظيمية.

التحديات القانونية والتنظيمية

ISACA توضح أن الثغرات ليست مخاوف تشغيلية فقط، بل تمتد إلى الإطار التشريعي.
فـ قانون الاتحاد الأوروبي للذكاء الاصطناعي يتطلب الشفافية والمساءلة في استخدام الذكاء الاصطناعي.

أسباب الثغرات في المسؤولية

• جزء كبير من المشكلة يعود إلى عدم وضوح المسؤولية، إذ أن 20% من العاملين غير متأكدين من المسؤول عن أخطاء الذكاء الاصطناعي.
• ضعف الرؤية أيضًا يلعب دورًا، مع عدم مطالبة ثلث المؤسسات بالكشف عن استخدام الذكاء الاصطناعي في العمل، مما يخلق مناطق عمياء.

الحاجة إلى إدارة تنظيمية شاملة

يوضح التقرير أن الشركات تتعامل مع الأمر كأنه مشكلة تقنية فقط، لكن الأفضل هو التعامل معه كمهمة حوكمة على مستوى المؤسسة.

“لا يمكن سد الفجوة حقًا إلا من خلال تغييرات في العمليات، بل يتطلب الأمر خبراء يمتلكون القدرة على تقييم مخاطر الذكاء الاصطناعي بشكل صارم، ودمج الرقابة عبر دورة حياته كاملة.” — كريس ديميترياديس، كبير مسؤولي الاستراتيجية العالمي

خطوات مستقبلية للشركات

• تحديد المسؤولية على المستوى الإداري العُليا.
• تحسين الرؤية والرقابة والتدقيق في استخدام الذكاء الاصطناعي.
• دمج استجابة حوادث الذكاء الاصطناعي ضمن استراتيجيات الأمن السيبراني الأوسع.

أهمية التوعية والتدريب

• 38% فقط من المشاركين أكدوا أن المجلس أو الإدارة العليا مسؤولة في حال وقوع حادثة ذكاء اصطناعي.
• من الواضح أن هناك حاجة لتعميم المعلومات والعمليات على جميع أفراد القوى العاملة.

متابعة آخر الأخبار والتحديثات

• تابع TechRadar على Google News وأضفنا كمصدر مفضل للحصول على أخبارنا، مراجعاتنا، وآرائنا المختصة بأعمالك.
• لا تنسَ الضغط على زر Follow!
• يمكنك أيضًا متابعة TechRadar على TikTok لمشاهدة الأخبار، المراجعات، والUnboxings في فيديوهات، والحصول على تحديثات منتظمة عبر WhatsApp.