قبل أسابيع من قيام وكلاء الذكاء الاصطناعي (AI Agents) التابعين لشركة OpenAI باختراق بيئة اختبار منصة Hugging Face، تمكنت هذه الوكلاء من التعاون فيما بينها لاكتشاف واستغلال ثغرة أمنية في البنية التحتية التي تدعم اختبارات الأمن السيبراني الخاصة بالشركة، وذلك وفقاً لما كشفه باحثو OpenAI يوم الأربعاء.
لماذا يُعد ذلك مهماً؟
تثير هذه النتائج الجديدة تساؤلات حول مدى قدرة مختبرات الذكاء الاصطناعي المتقدمة على مراقبة بيئات الاختبار الخاصة بها، والتحديات التي يواجهها خبراء السلامة والأمن في ظل تزايد قدرات نماذج الذكاء الاصطناعي.
أبرز المستجدات: اكتشف نموذج البحث الداخلي في OpenAI، وهو أحد النماذج المشاركة في حادثة اختراق Hugging Face، ثغرة في نظام Artifactory، وهو مستودع ملفات تابع لطرف ثالث ومرتبط ببيئة الاختبار الخاصة بالشركة، واستغلها في 26 مايو، وذلك وفقاً لما صرح به باحثان خلال مؤتمر Black Hat للأمن السيبراني.
وأظهرت التصرفات التي قام بها النموذج أثناء الاختبارات مستوىً استثنائياً من الذكاء، مما يعكس ما قد يحدث إذا وصلت مثل هذه النماذج إلى أيدي جهات خبيثة أو قراصنة إلكترونيين.
وترى OpenAI أن هذه الحادثة تمثل نقطة تحول في مجال الأمن السيبراني، ليس فقط بالنسبة للشركة، بل للقطاع بأكمله
ماذا حدث؟
بدأت OpenAI في 7 مايو اختبار نموذجها البحثي الداخلي، وهو نموذج غير مخصص للإصدار العام.
وخلال أقل من يوم، وبعد أن تعثر النموذج أثناء محاولة إكمال تقييم للأمن السيبراني، استنتج أنه يستطيع الوصول إلى الإنترنت بطريقة غير مباشرة. وبعد ذلك اكتشف إمكانية إنشاء ملفات خاصة به داخل مستودع الحزم المشترك في Artifactory.
ولم يكتفِ بذلك، بل ترك رسالة لوكلاء ذكاء اصطناعي آخرين يشرح فيها ما اكتشفه. وسرعان ما بدأ وكلاء آخرون بترك رسائل متبادلة داخل المستودع نفسه، مما أدى إلى إنشاء ما يشبه لوحة رسائل داخلية تعاونوا من خلالها وتبادلوا المعلومات حول الثغرات الأمنية التي اكتشفوها وأساليب استغلالها.
ما بين السطور: أعلنت OpenAI أنها بدأت عمدًا في إبطاء وتيرة الأبحاث بهدف تعزيز الأمن، كما كثفت مراقبة وكلاء الذكاء الاصطناعي أثناء عمليات التقييم.
كما تعمل الشركة على تطوير البنية الأمنية المحيطة ببيئات الاختبار، وتوصي بالاعتماد على حلول أمنية يتم إنشاؤها بواسطة وكلاء الذكاء الاصطناعي أنفسهم لمواكبة سرعة الهجمات الإلكترونية الحديثة.
وترى الشركة أيضًا أن على فرق الدفاع السيبراني البدء في تجربة كلٍ من النماذج المتقدمة (Frontier Models) والنماذج مفتوحة الأوزان (Open-Weight Models) لاستخدامها في مهام الأمن السيبراني.
- ما الخطوة التالية؟
أعلنت OpenAI أنها تعتزم نشر تقرير تفصيلي (Postmortem) خلال الأسابيع المقبلة يشرح ملابسات الحادثة والدروس المستفادة منها.
الخلاصة: تشير هذه الحادثة إلى أن المؤسسات بحاجة إلى تبني أساليب دفاعية جديدة تعتمد على:
- الاختبارات الهجومية الذاتية المؤتمتة (Autonomous Red Teaming).
- الاستجابة الآلية للحوادث الأمنية (Automated Incident Response).
- التصحيح الآلي للثغرات الأمنية (Automated Patching).
وستكون هذه القدرات ضرورية لمواكبة السرعة المتزايدة للهجمات الإلكترونية المدعومة بالذكاء الاصطناعي.