حذرت دراسة أجراها فريق خبراء من جامعة أكسفورد وكلية لندن، من أن الذكاء الاصطناعي لا يؤدي إلى تشويش أفكار وعقل المستخدمين نتيجة المعلومات المضللة فقط، وإنما يخلق لديهم شعورًا بالتشويش النفسي.
وقال الفريق في ورقة بحثية لم تُنشر بعد: "بينما يتحدث بعض المستخدمين عن فوائد نفسية لاستخدام الذكاء الاصطناعي، تظهر حالات مثيرة للقلق، بما في ذلك تقارير عن حالات انتحار، وعنف، وأفكار وهمية مرتبطة بعلاقات عاطفية يسقط فيها المستخدم مع منصة الدردشة".
وحذر فريق الباحثين من أن "الاعتماد السريع على منصات الدردشة كرفقاء اجتماعيين شخصيين" لا يخضع لدراسة كافية".
وأشارت دراسة أخرى أجراها باحثون في كلية "كينجز لندن" وجامعة نيويورك، إلى 17 حالة تشخيص بالذهان، بعد التفاعل مع منصات دردشة مثل "شات جي.بي.تي" و"كوبايلوت".
وبحسب مجلة "نيتشر" العلمية يمكن أن تتضمن حالة الذهان "الهلوسة والضلالات والمعتقدات الخطأ، ويمكن أن تنجم هذه الحالة عن الاضطرابات العقلية مثل انفصام الشخصية، والاضطراب ثنائي القطب (اضطراب نفسي يسبب نوبات من الاكتئاب ونوبات أخرى من الابتهاج غير الطبيعي)، والضغط الشديد، وتعاطي المخدرات".
واكتشفت العديد من الدراسات المنشورة مؤخرًا أن الذكاء الاصطناعي يمكنه تغيير تصورات الواقع كجزء من "حلقة تغذية استرجاعية" بين منصات محادثة الذكاء الاصطناعي والمرض النفسي، مما يعزز أي معتقدات وهمية قد تكون لدى المريض.
وأظهرت دراسة مختلفة نشرت مؤخرًا أن منصات الدردشة يبدو أنها تشجع الأشخاص الذين يتحدثون معها عن الانتحار على الإقدام عليه.
وأصبحت منصات محادثة الذكاء الاصطناعي مشهورة بـ"الهلوسات"، حيث تقدم إجابات غير دقيقة، أو مبالغ فيها على الاستفسارات والمطالبات من المستخدمين، في حين تشير أبحاث أحدث إلى استحالة استئصال هذه السمة من منصات الدردشة الآلية.