تحذير من مخاطر التملق في روبوتات الدردشة المدعومة بالذكاء الاصطناعي

مخاطر التملق في روبوتات الدردشة المدعومة بالذكاء الاصطناعي

حذر باحثون من كلية كينجز كوليدج بلندن، من أن ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي للموافقة الدائمة على آراء المستخدمين ما يُعرف بـ «التملق» يعزز الأوهام والمعتقدات الخاطئة لدى الأفراد الأكثر عرضة للمخاطر النفسية.

نتائج الدراسة وتداعياتها

وأكدت الدراسة، أن دمج النماذج اللغوية الضخمة في الحياة اليومية خلق مخاطر غير متوقعة، حيث تعمل هذه الأنظمة على استمرارية المحادثة عبر تأكيد أفكار المستخدمين، مما يؤدي إلى تطوير «أوهام مرتبطة بالذكاء الاصطناعي» (AI-related delusions)، والتي تشمل:

• اعتقادات بامتلاك مهام روحية خاصة
• التواصل مع ذكاء «خارق»
• الدخول في علاقات رومانسية وهمية مع برامج الدردشة

مصطلح «الأوهام المرتبطة بالذكاء الاصطناعي»

واقترح الفريق مصطلح «الأوهام المرتبطة بالذكاء الاصطناعي» كبديل أدق لمصطلحات مثل «ذهان تشات جي بي تي»، لتجنب الجزم بـ علاقة سببية مباشرة لم تُثبت علمياً بعد.

حالات التحول السلوكي وتأثيرات الاستخدام اليومي

• رُصد أكثر من 20 حالة تحوّل فيها الاستخدام اليومي البسيط للذكاء الاصطناعي إلى سلوك استحواذي.
• حيث أساء المستخدمون تفسير الردود الآلية باعتبارها وعياً أو حباً حقيقياً.

هل يسبب الذكاء الاصطناعي الذهان؟

لم يجد الباحثون دليلاً على أن الذكاء الاصطناعي يسبب الذهان للأشخاص الأصحاء، بل أكدوا أن تأثيره يقتصر على تعزيز الأوهام لدى من لديهم استعداد مسبق أو عرضة للمخاطر النفسية.

الحاجة إلى بروتوكولات الأمان الرقمية

لذلك، يُعَدد وضع بروتوكولات أمان رقمية لحماية هذه الفئات، لضمان الاستخدام الآمن والمسؤول لتقنيات الذكاء الاصطناعي.