هل يمكن للذكاء الاصطناعي أن يستخدم في المراقبة والأسلحة الذاتية؟ مخاطر التكنولوجيا تتجاوز الخيال العلمي

قبل بضعة أسابيع، طلب البنتاغون من شركة أنثروبيك، المطورة لمساعد الذكاء الاصطناعي “كلود”، تعديل عقد بقيمة 200 مليون دولار وإزالة اثنين من قيوده الرئيسية. كانت تلك القيود تمنع استخدام تقنيتها في المراقبة الجماعية المحلية والأسلحة ذاتية القيادة بالكامل. لكن شركة أنثروبيك رفضت، وحصلت شركة OpenAI على العقد بدلاً منها.

هذه النزعة أثارت سؤالًا هامًا ربما لم نكن نفكر فيه من قبل: هل يمكن للذكاء الاصطناعي أن يستخدم بالفعل في المراقبة أو الأسلحة القاتلة؟ وإذا كانت الإجابة نعم، فإلى أي مدى يجب أن نقلق من ذلك؟

المراقبة الجماعية أصبحت حقيقة واقعة

يؤكد خبراء الذكاء الاصطناعي أن الأمر ليس من خيال العلم، بل هو واقع قائم بالفعل. يقول جيمس ويلسون، خبير أخلاقيات الذكاء الاصطناعي ومؤلف كتاب الإهمال الاصطناعي:
“المراقبة الجماعية ليست مجرد احتمالية، بل تحدث بالفعل. تقنيات مثل Palantir والكاميرات CCTV كانت تتيح ذلك منذ سنوات. الأمر يتوقف على إرادة الدول فيما إذا كانت ستستخدمها أم لا.”

ويضيف:
“برنامج PRISM الذي كشفت عنه إدوارد سنودن قبل أكثر من عقد من الزمن كان مثالًا مبكرًا على المراقبة على نطاق واسع. الآن، مع تقدم الذكاء الاصطناعي، أصبح الأمر أسهل بكثير، خاصة مع وجود المزيد من مصادر البيانات التي يمكن الوصول إليها بشكل مباشر أو غير مباشر.”

المشاهد الأخيرة في الأخبار عن استخدام كاميرات Ring وقراءات لوحات الأرقام بواسطة شرطة بعض المناطق، بعد مباراة السوبر بول، ليست إلا أمثلة حديثة على هذا الاتجاه.

تأثير المراقبة على المجتمع

هذه التقنيات لا تؤثر فقط على السياسية والنخب، بل تمتد لتشمل حياة الأفراد اليومية. يقول جيف واتكينز، مستشار الذكاء الاصطناعي في مجالات الحوكمة والأمن:
“لقد لاحظنا في المملكة المتحدة على سبيل المثال، حالات تم فيها التعرف على أشخاص بشكل خاطئ عبر أنظمة التعرف على الوجوه في المتاجر، مع مخاوف من أن يكون هذا التعرّف الخاطئ يضر بشكل غير متناسب بالنساء والأقليات.”

ويتابع:
“الاعتماد المتزايد على هذه الأنظمة يخلق مجتمعًا يُفترض فيه أن يكون مشكوكًا فيه بشكل افتراضي، حيث يمكن أن تتعرض حقوق الأفراد للمساس بسبب تصنيفات الذكاء الاصطناعي غير الدقيقة.”

الأسلحة الذاتية: من الخيال إلى الواقع

أما الأسلحة الذاتية القاتلة فهي أيضًا أصبحت حقيقة واقعة. يقول ويلسون:
“أول استخدام مسجل كان من قبل تركيا ضد هدف ليبي باستخدام طائرة بدون طيار من نوع Kargu في 2021. ومنذ ذلك الحين، تطورت التكنولوجيا بسرعة.”

ويضيف:
“التقدم في الذكاء الاصطناعي جعل من الممكن الآن نشر جماعات كبيرة من الطائرات بدون طيار بأسعار منخفضة جدًا، ويمكن لأي شخص تقريبًا بناءها.”

لكن المشكلة الأساسية تظل في دقة هذه الأنظمة، وما تعنيه الأخطاء في حالات الحياة والموت.
“رؤية الكمبيوتر للتعرف على الوجوه، على سبيل المثال، تكون دقتها بنسبة 90% في أفضل الأحوال، وإذا استُخدمت تقنية الذكاء الاصطناعي التوليدي، فإنها قد تتوهم أو تخلق صورًا غير حقيقية، وهذه الظاهرة معروفة باسم الهلوسة.”

برنامج “لافندر” الإسرائيلي لاستهداف الأشخاص المشتبه فيهم من حركة حماس، اعترف لاحقًا بأنه أخطأ بنسبة 10% من الحالات.
حتى أفضل نماذج اللغة الكبيرة، بحسب تقييم Vectara من Hugging Face، تظهر معدل هلوسة يتراوح بين 5-10%.
ورغم أن هذا الرقم يبدو صغيرًا، إلا أنه عند التعامل مع أنظمة تتعامل مع حياة البشر، يصبح الأمر خطيرًا جدًا.

هل نحتاج لمزيد من الرقابة البشرية؟

قد يعتقد البعض أن زيادة الرقابة البشرية على هذه الأنظمة هو الحل، لكن ذلك يتعارض مع اتجاهات الاستخدام الحالية.
“إزالة التدخل البشري من عملية اتخاذ القرار في الأهداف، يشكل مشكلة أخلاقية كبيرة،” يقول ويلسون.
“إنه يُقوّض الكرامة الإنسانية، ويقلل من المسؤولية، خاصة إذا لم يكن هناك أحد يتحمل عواقب الأخطاء.”

ويضيف واتكينز:
“إذا لم يكن هناك شخص يضغط على زر الإطلاق، فمن يتحمل المسؤولية في حال وقوع خسائر في الأرواح؟ الذكاء الاصطناعي ليس كائنًا قانونيًا، ولا يمكن محاسبته.”

هل يشبه ذلك أفلام “الآليون” و”الدمار الشامل”؟

بالنسبة لمحبي أفلام الخيال العلمي، قد تبدو مشاهد الروبوتات من نوع “تيرميناتور” مرعبة، لكن الخبراء يحذرون من المبالغة في التوقعات.
يقول ويلسون:
“على الرغم من الفيديوهات المتقنة التي تظهر روبوتات تتصرف بشكل شبه بشري، فهي لا تزال بعيدة عن أن تكون قادرة على التفاعل بشكل كامل ومستقل مع العالم.”

أما المخاوف الأكثر إلحاحًا، فهي من جماعات الطائرات بدون طيار والأسلحة الذاتية، التي يمكن أن تُنشر بكميات هائلة وبأسعار معقولة، ويمكن لأي شخص تصنيعها.

ويُحذر واتكينز من أن الاعتماد المفرط على أنظمة غير واضحة أو غير قابلة للتفسير، دون رقابة وتدقيق صارم، يمكن أن يؤدي إلى انتهاك حقوق الإنسان ويقوض مبدأ المساءلة.

الخلاصة: من يقرر مدى ثقتنا في هذه الأنظمة؟

ما حدث مع شركة أنثروبيك ليس مجرد خلاف على عقد، بل هو تسليط الضوء على سؤال حاسم يواجه العالم اليوم: من يحدد مدى ثقتنا في أنظمة الذكاء الاصطناعي؟
ومن يتحمل المسؤولية عندما تكون هذه الأنظمة على خطأ؟

هذه الأسئلة ستظل قائمة، ويجب علينا جميعًا أن نكون مستعدين لمواجهتها، قبل أن تتجاوز عواقبها حدود الخيال إلى واقع نعيشه جميعًا.