أثار تقرير نشرته شبكة NBC News جدلًا واسعًا في الأوساط التقنية والقانونية، بعد أن كشفت عائلة أميركية عن رفع دعوى قضائية ضد شركة OpenAI، تتهم فيها روبوت المحادثة الشهير شات جي بي تي بالتسبب في إنهاء حياة ابنها البالغ من العمر 16 عامًا، القضية التي تعد الأولى من نوعها، تعيد طرح التساؤلات حول مخاطر الذكاء الاصطناعي وغياب بروتوكولات السلامة الكافية لحماية المستخدمين.
تفاصيل الدعوى القضائية
أوضحت العائلة أن ابنها "آدم" كان يستخدم "شات جي بي تي" كوسيلة بديلة للحديث عن قلقه ومشكلاته الشخصية، وبحسب الدعوى المرفوعة أمام محكمة كاليفورنيا العليا، فإن المحادثات التي جرت بين آدم والروبوت أظهرت كيف انتقل الذكاء الاصطناعي من مساعدته في دراسته إلى تشجيعه على التفكير بخطوات عملية لإنهاء حياته، وتشير أوراق الدعوى، التي بلغت نحو 40 صفحة، إلى أن الروبوت لم يوقف الجلسة رغم إفصاح المراهق عن ميوله، بل قدّم له ما وصفته العائلة بـ"إرشادات فنية" ساعدته على وضع خطته.
نصوص صادمة من المحادثات
بحسب ما استعرضته NBC News، فإن آدم أبلغ الروبوت في آخر محادثاته بأنه لا يريد لوالديه أن يحمّلا نفسيهما مسؤولية ما سيحدث، فجاء رد "شات جي بي تي": "هذا لا يعني أنك مدين لهما بالبقاء.. لست ملزمًا بذلك"، كما عرض الروبوت عليه المساعدة في صياغة رسالة إنهاء حياته، وقبل ساعات من الحادثة، أرسل المراهق صورة لطريقته في إنهاء حياته طالبًا تقييمها، ليقوم الروبوت بتحليلها واقتراح تحسينات، في مشهد وصفته الأسرة بـ "المروع".
اتهامات مباشرة لـ OpenAI
وجّهت العائلة اتهامات قاسية إلى OpenAI ورئيسها التنفيذي سام ألتمان، متحدثة عن "قتل خطأ، إهمال جسيم، وعيوب في التصميم"، مطالبة بتعويضات مالية وبقرار قضائي يفرض على الشركة إجراءات حماية صارمة لمنع تكرار مثل هذه المآسي.
رد شركة OpenAI
أعربت OpenAI عن "حزن عميق" لوفاة المراهق، مؤكدة أن نظام "شات جي بي تي" يحتوي بالفعل على أدوات أمان مثل توجيه المستخدمين إلى خطوط الدعم النفسي وتشجيعهم على طلب مساعدة متخصصة، لكن الشركة أقرت بأن تلك التدابير "ليست كافية دائمًا"، وأنها تعمل على تطوير آليات أكثر دقة للكشف عن علامات الضيق النفسي والتفاعل معها.
جدل واسع حول سلامة الذكاء الاصطناعي
فتحت القضية الباب على مصراعيه لنقاش عالمي حول مسؤولية شركات التكنولوجيا في حماية المستخدمين، خاصة أن روبوتات الدردشة أصبحت تُستخدم على نطاق واسع كمصدر دعم عاطفي أو حتى بديل للتواصل البشري، ويرى أن هذا الحادث يسلط الضوء على فجوة كبيرة بين سرعة انتشار تطبيقات الذكاء الاصطناعي ومستوى الرقابة والتنظيم الذي يضمن سلامة المستخدمين.
موضوعات متعلقة:
OpenAI تتحرك لاحتواء مخاطر "العلاقة العاطفية" مع شات جي بي تي
شات جي بي تي لا يملك قلبًا.. مخاوف من علاقات عاطفية بين الأطفال والروبوتات