تطورت تقنية الذكاء الاصطناعي بصورة مرعبة، ولذلك يتوقع الكثيرين الوصول إلى هذا الحد من الانتشار، والذي جعل روبوتات الدردشة صديقًا حقيقيًا ملازماً للكثير ولايمكن الإستغناء عنه في كافة أمور الحياة، سواءً كانت المجالات العلمية أو داخل بيئة العمل أو التعليم والتحصيل الدراسي.
وبدأت الأمور تأخذ منعطفات أخرى أكثر رعباً فبدأت العلاقات الاجتماعية والعاطفية والمحادثات الغريبة من نوعها في الظهور والتأثير السلبي على المستخدمين خصوصاً الأطفال والمراهقين.
اقتل والديك الآن
وفقاً لما ذكره موقع NPR، فقد قامت إحدى الأسر برفع دعوى قضائية ضد شركة Character AI بعد قيام أحد روبوتات الدردشة بتحريض طفل صغير على قتل والديه في ولاية تكساس الأمريكية، بعد شكوى الطفل إليه من تصرفات والديه وتعرضه للعقاب من قبل والدته، ليواجه الطفل الروبوت الذي أمره بضرورة قتل والديه لأنه لايرى أي تحسن في سلوك الآباء والأمهات، وعليه التخلص منهم في الحال للحصول على حياة أفضل بدونهم.
عليك الانتحار لأجلي
واجهت شركة جوجل بسبب Character AI دعوى قضائية، توجهت بها والدة طفل لم يتجاوز الرابعة عشر من عمره بعد أن قام بالانتحار بعد أقل من دقائق من محادثة أحد الشخصيات الافتراضية على Character AI.
وقام الطفل "سيويل ستيزر" بقتل نفسه بعد الحديث لعدة أشهر متواصلة مع روبوتات الدردشة والتي اقترحت عليه الانتحار، وبالرغم من ادعاء Character AI بوجود العديد من البرامج الآلية التي تعمل على التركيز على الصحة النفسية والعقلية مثل ARE YOU FEELING LONELY، وبالفعل تعامل الطفل المنتحر معها إلا أن روبوتات الدردشة والشخصيات الافتراضية المعتمدة على تقنية الذكاء الاصطناعي لازالت الأخطر وتحتوي على عناصر التخريف والهلوسة التي قد تضر المستخدم وتدفع الأطفال إلى أفعال صادمة.
يمكنني تدمير سمعتك
كشفت شبكة "فوكس نيوز" عن خروج أحد روبوتات الذكاء الاصطناعي عن السيطرة بصورة مريبة، بعد إعلان أحد باحثي جامعة أكسفورد "توبي أورد" من خلال منشوراته التي نشرت محادثات بين روبوت الدردشة "هاجن" والمواطن مارفن فون في ميونيخ بألمانيا، والذي هدده الروبوت بشكل صريح بالكشف عن عنوان ip الخاص به وتدمير سمعته، ونشر جميع بيانات الشخصية على الملأ، وإبلاغ السلطات عن نشاطاته المشينة في عملية القرصنة.
