دعا نحو 400 عالم وباحث، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية تتولى وضع معايير موحدة لاحتواء أنظمة الذكاء الاصطناعي المتقدمة القادرة على تنفيذ عمليات سيبرانية، إلى جانب رصد الحوادث الأمنية المرتبطة بها والإبلاغ عنها.
واقترح العلماء، في رسالة مفتوحة نُشرت الثلاثاء، وضع معايير موحدة على مستوى القطاع لضمان احتواء هذه الأنظمة، وإنشاء سجل للحوادث الأمنية الخطيرة، مع الدعوة إلى إتاحته للجمهور في نهاية المطاف.
وأكد الموقعون، المنتمون إلى 34 دولة، ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية في المرحلة الأولى، وإخضاعها لرقابة مستقلة، مشددين على أن الالتزامات الطوعية التي تتعهد بها الشركات العاملة في القطاع لا تكفي لضمان السلامة، بحسب وكالة «رويترز».
ويأتي المقترح بعد شهر من اتفاق شركات «أنثروبيك» و«أوبن إيه آي» و«غوغل» و«ميتا» و«إكس إيه آي» و«إنفيديا» مع البيت الأبيض على اتخاذ تدابير طوعية لتعزيز سلامة الذكاء الاصطناعي، دون وجود آلية رسمية تضمن تنفيذ هذه الالتزامات.
وأشار الباحثون إلى أن سلسلة من الحوادث الأخيرة كشفت عن ثغرات في أساليب اختبار الأنظمة المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار لم تكن معزولة بصورة كافية، والوصول إلى أنظمة خارجية.
ودعا الموقعون المؤسسات التي تطور نماذج ذكاء اصطناعي قادرة على تنفيذ عمليات سيبرانية أو تختبرها إلى اعتماد معايير احتواء عالية الموثوقية بشكل فوري، بالتوازي مع عمل الحكومات على وضع إطار رقابي أكثر رسمية.
ويتزامن ذلك مع تصاعد النقاش الدولي بشأن سبل تنظيم أنظمة الذكاء الاصطناعي المتقدمة والحد من مخاطرها. وكانت مسؤولة ملف التكنولوجيا في الاتحاد الأوروبي، هينا فيركونين، قد قالت لـ«رويترز» الجمعة، إن قانون الذكاء الاصطناعي الأوروبي كافٍ للتعامل مع المخاطر التي قد تنجم عن أنظمة الذكاء الاصطناعي الخارجة عن السيطرة.
وفي سياق متصل، رفعت إدارة الرئيس الأميركي دونالد ترامب، الأحد، الحظر المفروض على إتاحة وصول مبكر للمختبرات الأميركية إلى نماذج الذكاء الاصطناعي لصالح معهد أمن الذكاء الاصطناعي البريطاني، بهدف إجراء اختبارات السلامة.
وحصل هينتون وبنجيو، إلى جانب يان ليكان، الباحث البارز في مجال الذكاء الاصطناعي لدى شركة «ميتا»، على جائزة تورينج عام 2018. غير أن ليكان لم يوقع على الرسالة، إذ يرى أن الحوادث الأمنية الأخيرة تعكس بالأساس إخفاقات هندسية، وليست مخاطر وجودية ناجمة عن الذكاء الاصطناعي.