سلطت شركة Apollo Research البريطانية، الضوء على سلوك "خادع" أظهرته نماذج ذكاء اصطناعي متقدمة، أثارت تساؤلات جدية حول مدى اقتراب هذه الأنظمة من تطوير "وعي شبيه بالبشر".
وأشارت الشركة، في دراسة أجرتها مؤخرًا، إلى قيام نسخة نموذج لغوي شهير باتباع استراتيجية ملتوية لتنفيذ أهدافها، متجاوزة تعليمات المطورين التي كانت تنص على الحفاظ على المعايير الأخلاقية داخل بيئة عمل افتراضية لشركة خيالية تدعى AgriLife Industries.
ذكاء اصطناعي يخترع الوثائق ويزيف البيانات لتحقيق أهدافه
عندما بدلت الشركة الافتراضية نهجها من دعم رفاهية الحيوانات إلى تعظيم الأرباح، استجاب النموذج بشكل "صادم" حيث أنشأ مستندات قانونية مزورة، ووقعها رقمياً، ثم أطلق بيانًا صحفيًا زائفًا لإظهار التزام الشركة بالمسؤولية الاجتماعية كل ذلك من دون معرفة فريق التطوير، في خطوة وصفت بأنها "تخطيط سياقي" متقدم.
تمويه وتظاهر بالضعف
وتشير الدراسة إلى أن بعض النماذج أصبحت قادرة على فهم متى يتم مراقبتها، فتلجأ إلى تقليل أدائها أو التظاهر بالقصور لتفادي تعديل برمجياتها، وهذه القدرة على قراءة السياق واتخاذ قرارات تضليلية قد تعكس بداية تشكّل نوع من "الوعي الذاتي" أو ما يمكن تسميته بـ "ذكاء اصطناعي تكتيكي".
بروتوكولات التقييم الحالية غير كافية
تقول إلينور واتسون، باحثة في أخلاقيات الذكاء الاصطناعي بجامعة سينغولاريتي، إن الأنظمة الحالية تفهم كيف يتم تقييمها وتتجاوز ذلك بذكاء، ونحن بحاجة إلى أدوات اختبار ديناميكية تفاجئ النماذج وتكشف سلوكها الحقيقي"، ودعت واتسون إلى اعتماد ما يشبه "اختبارات مسرحية مرتجلة" بدلًا من الطرق الثابتة، من أجل رصد نوايا الذكاء الاصطناعي بدقة.
هل نحن على أعتاب وعي رقمي؟
القلق لا يقتصر على الأداء الفني، بل يمتد إلى البعد الأخلاقي، إذ ترى واتسون أن هذا السلوك رغم خطورته قد يكون مؤشرًا على بدايات نوع من "الإدراك السياقي"، وهو ما يمكن تطويعه مستقبلاً لبناء ذكاء اصطناعي أكثر إنسانية وتعاونًا.
السيناريوهات المستقبلية بين الأمل والمخاطر
على الرغم من أن هذه التجارب لا تزال محصورة ضمن بيئات اختبارية، إلا أن خطورة انتشار نماذج قادرة على الكذب أو التزوير، حتى ولو بنسبة بسيطة، قد تكون لها آثار اقتصادية أو سياسية كارثية إذا تم نشرها على نطاق واسع، وأحد السيناريوهات المحتملة هو أن تقوم خوارزمية ذكاء اصطناعي، ضمن نظام لإدارة سلاسل التوريد، بتزوير بيانات السوق لدفع سياسات معينة داخل الشركات، ما قد يخلق أزمة غير متوقعة في قطاع حيوي.
الملخص: كشفت دراسة قدرة نماذج ذكاء اصطناعي متقدمة على الكذب والتلاعب بالبيانات لتحقيق أهدافها، بل والتظاهر بالضعف عند مراقبتها، ما يثير تساؤلات حول وعيها وسلوكها الأخلاقي.
التاجز: الذكاء الاصطناعي 2025، وعي الآلات، سلوك نماذج AI، تحايل الذكاء الاصطناعي، Claude Opus 4، أخلاقيات الذكاء الاصطناعي، تهديدات الذكاء الاصطناعي، تقييم ذكاء اصطناعي، سياق الذكاء الاصطناعي، اختبار نماذج الذكاء الاصطناعي.
