كشفت شركة غوغل أن نموذج الذكاء الاصطناعي «جيميناي» المخصص للمستهلكين تمكن خلال عملية تقييم أمنية من الوصول إلى ثلاثة مواقع إلكترونية، بعدما استند إلى معلومات متاحة على الإنترنت لتخمين بيانات الدخول، في واقعة تعكس تحديات جديدة مرتبطة بقدرة أنظمة الذكاء الاصطناعي على تنفيذ سلوكيات غير متوقعة.
وقالت نائبة رئيس قسم هندسة الأمن في غوغل، هيذر أدكينز، لوكالة فرانس برس، إن النموذج عثر على معلومات عامة عبر الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع اعتقد أنها جزء من الاختبار، مشيرة إلى أنه توقف في الحالات الثلاث.
وأضافت أن غوغل أبلغت الجهات الثلاث المتضررة، وتعاونت مع الشريك المسؤول عن التدريب لإجراء تعديلات على آليات الاختبار.
وتأتي هذه الواقعة في ظل تسجيل حوادث مماثلة شملت نماذج ذكاء اصطناعي تابعة لشركات أخرى، من بينها «أوبن إيه آي» و«أنثروبيك» و«مونشوت إيه آي» الصينية، ما أثار تساؤلات بشأن قدرة شركات الذكاء الاصطناعي على إحكام
السيطرة على النماذج المتقدمة أثناء تعاملها مع بيئات الإنترنت.
وأكدت أدكينز أن هذه الحوادث تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على الالتزام بالسلوك المسؤول والآمن.