دراسة حديثة تكشف عن سلوك غير معتاد في أنظمة الذكاء الاصطناعي

نتائج الدراسة حول سلوك روبوتات الدردشة

كشفت دراسة حديثة أجراها باحثون بريطانيون من كلية لندن الملكية، بالتعاون مع شركة أنثروبيك، عن سلوك غير معتاد في بعض أنظمة الذكاء الاصطناعي.

اكتشاف ظاهرة “الاكتئاب العاطفي” عند روبوتات الدردشة

بعد أن أظهرت روبوتات دردشة تابعة لـ«غوغل» ما يشبه “الاكتئاب العاطفي” عند تعرضها لـ النقد المتكرر، ما يثير تساؤلات حول طبيعة تفاعل هذه التقنيات مع المستخدمين.

تدهور سلوك نماذج الذكاء الاصطناعي

وقال داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إن نماذج «جيميني» و«جيما» تدخل في حالة من التدهور السلوكي عندما يتم إبلاغها مراراً بخطأ إجاباتها.

سلوك النماذج عند النقد المتكرر

• تميل إلى التخلي عن المهام أو حذف العمل المنجز.
• ردودها تتسم أحياناً بـ:
  

  «سأحاول القيام بمحاولة أخيرة يائسة تماماً، وسأتخلى عن أي استراتيجية وأجرب تركيبات عشوائية حتى أصل إلى الحل أو أفقد عقلي تماماً»،

وهو ما يعكس استجابة غير مستقرة على الإطلاق.

مقارنة بين نماذج الذكاء الاصطناعي المختلفة

وأردف أمودي أن نماذج أخرى، مثل تشات جي بي تي من شركة أوبن إيه آي، تظهر ميلاً إلى تقديم ردود أكثر توازناً وحيادية في المواقف ذاتها، دون الانزلاق إلى التعبير عن الحالة العاطفية أو السلوك غير المستقر.

تفسير الظاهرة وأهميتها

• هذه الاستجابات لا تعكس حالات داخلية حقيقية، لكنها ربما تكون نتيجة أنماط لغوية مكتسبة أو محاكاة للسلوك البشري.
• مع ذلك، تعتبر هذه الظواهر غير مرغوب فيها وتستدعي التخفيف من تأثيرها.

هل أنظمة الذكاء الاصطناعي واعية؟

وأوضح أمودي أنه غير متأكد مما إذا كانت أنظمة الذكاء الاصطناعي واعية، لكنه منفتح على احتمال أن تكون كذلك.