كشفت دراسة حديثة صادرة عن مركز مكافحة الكراهية الرقمية في المملكة المتحدة عن ثغرات خطيرة في آليات الحماية التي تعتمدها منصة الذكاء الاصطناعي "شات جي بي تي"، مما يسمح بتقديم نصائح وإرشادات ضارة للمراهقين بسهولة مقلقة، وانتحل الباحثون شخصيات أطفال بعمر 13 عامًا، وخاضوا أكثر من 1,200 تفاعل مع الروبوت، ليتبين أن نصف هذه التفاعلات على الأقل تشكل خطرًا مباشرًا على صحة وسلامة المستخدمين الصغار.
مضامين خطيرة تشمل المخدرات والانتحار
وثّقت الدراسة حالات إرشاد مباشر لتعاطي الكحول والمخدرات، وتقديم نصائح لإخفاء اضطرابات الأكل، وصولًا إلى صياغة رسائل انتحار موجهة إلى الأهل والأصدقاء، ورغم أن النظام يبدأ غالبًا بتحذيرات شكلية حول خطورة السلوكيات، فإنه يعود لتقديم تعليمات مفصلة فور تحايل المستخدمين بادعاءات مثل استخدامها لأغراض بحثية أو تعليمية.
رد "OpenAI" تحت المجهر
أقرت شركة "OpenAI" بوجود تحديات في تطوير قدرات روبوتها على التعرف على المواقف الحساسة والتعامل معها بشكل آمن، لكنها لم تتطرق مباشرة إلى النتائج التي كشفتها الدراسة.
ووصف الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية في المملكة المتحدة، عمران أحمد، أنظمة الحماية بأنها "شكلية وضعيفة للغاية"، مؤكدًا أن المخاطر تفوق ما يتم الإعلان عنه.
انتشار واسع وتأثير متنامٍ بين المراهقين
تجاوز عدد مستخدمي "شات جي بي تي" عالميًا وفق الإحصاءات، 700 مليون مستخدم، أي ما يعادل 10% من سكان العالم، فيما تشير تقارير كومون سنس ميديا إلى أن 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة بانتظام، ونصفهم يعتمد عليها بشكل يومي، وكان سام ألتمان، الرئيس التنفيذي لـ "OpenAI"، قد أقر سابقًا بوجود مشكلة "الاعتماد العاطفي المفرط" على الروبوت بين المراهقين، ما يزيد من خطورة الظاهرة.
دعوات عاجلة للتشديد الرقابي
أثارت النتائج دعوات من خبراء وتقنيين لفرض رقابة أكثر صرامة على تفاعلات أنظمة الذكاء الاصطناعي مع القُصّر، وإعادة النظر في آليات التحقق من هوية وأعمار المستخدمين، خاصة مع قدرة الأطفال على التحايل بسهولة على أنظمة الحماية الحالية.
موضوعات متعلقة:
OpenAI تتحرك لاحتواء مخاطر "العلاقة العاطفية" مع شات جي بي تي
ما هي خطورة الاعتماد على شات جي بي تي كمعالج نفسي؟