تُجري شركة «مونشوت» الصينية المتخصصة في تطوير الذكاء الاصطناعي مراجعة داخلية، بعد تمكن باحثين في مجال أمن أنظمة الذكاء الاصطناعي من تجاوز ضوابط السلامة في اثنين من نماذجها «كيمي»، ودفعهما إلى التعامل مع طلبات تتعلق بموضوعات شديدة الحساسية.
وقالت شركة «مايندغارد»، المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، لهيئة الإذاعة البريطانية «بي بي سي» إنها اكتشفت في يوليو الماضي إمكانية تجاوز القيود الأمنية في نموذجي «كيمي K2.6» و«كيمي K3 سوارم».
وجاء ذلك خلال اختبارات عُرفت بـ«كسر الحماية»، وهي محاولات تعتمد على تعليمات معقدة لاختبار مدى قدرة نماذج الذكاء الاصطناعي على الالتزام بالضوابط التي يضعها المطورون لمنع التعامل مع محتوى ضار أو حساس.
وأوضحت «مونشوت» أنها ترحب بمساهمات الجهات الخارجية في اختبار أنظمتها، باعتبارها «ركيزة أساسية لبناء ذكاء اصطناعي أفضل وأكثر أماناً»، مشيرة إلى أنها تجري مناقشات مع «مايندغارد» بشأن نتائج الاختبارات.
وقال مؤسس «مايندغارد» بيتر غاراغان، في تصريحات لبرنامج «تيك لايف» على إذاعة «بي بي سي»، إن نتائج الاختبارات المتعلقة بنماذج «كيمي» تثير القلق، موضحاً أن نجاح تجاوز الضوابط قد يتيح للنموذج التعامل مع موضوعات كان يفترض أن تمنعها أنظمة الأمان، وتقديم استجابات تتعلق باستخدامات ضارة.
وتأتي هذه النتائج في وقت تتزايد فيه المخاوف بشأن مخاطر إساءة استخدام تقنيات الذكاء الاصطناعي، بالتزامن مع توسع استخدام ما يُعرف بـ«الوكلاء»، وهي أنظمة قادرة على تنفيذ مهام بصورة ذاتية، وطورتها شركات تقنية أميركية عدة.
كما حذّر خبراء من إمكانية استغلال أساليب «كسر الحماية» من جانب جهات خبيثة، رغم ما تتطلبه هذه العمليات عادة من تعقيد ووقت وإصرار.
وفي السياق ذاته، أعلنت شركة «أنثروبيك» مؤخراً أنها رصدت وأحبطت محاولات لاستخدام أحد نماذجها في أنشطة خبيثة، قد تشمل تقديم دعم لتطوير أسلحة بيولوجية.
من جانبه، قال البروفسور آلان وودوارد، من جامعة سري، لـ«بي بي سي»، إن نماذج الذكاء الاصطناعي مفتوحة المصدر قد تمثل خطراً إذا وقعت في أيدي جهات تسعى إلى إساءة استخدامها، مشيراً في الوقت نفسه إلى إمكانية الاستفادة منها في مجالات دفاعية، بينها الأمن السيبراني.
وأوضح أن شركة «هاغينغ فيس» استخدمت نموذجاً صينياً مفتوح المصدر للمساعدة في فهم عملية اختراق، تبيّن لاحقاً أنها نُفذت من جانب جهات مرتبطة بـ«أوبن إيه آي».
وأشار وودوارد إلى أن وتيرة تطور الذكاء الاصطناعي قد تتجاوز سرعة تطوير الأطر التنظيمية الدولية، مؤكداً أهمية التركيز على تحديد ومساءلة الأشخاص الذين يستغلون هذه التقنيات في أنشطة ضارة.
