كشفت شبكة CNN أن تقريراً استخباراتياً جرى تداوله داخل الجيش الأمريكي خلال الربيع، بالتزامن مع الحرب مع إيران، أثار حالة استنفار بعدما زعم أن سفينة صينية في الشرق الأوسط كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية.
وبحسب أربعة مصادر مطلعة على الواقعة تحدثت إلى CNN، تحرك الجيش الأمريكي بناءً على التقرير، وبدأ التخطيط لاعتراض السفينة. وقال مصدران إن عناصر مسلحة من الجيش الأمريكي كانوا يستعدون للصعود إلى متنها، فيما كانت طائرات عسكرية في الجو، وفق مصدرين مطلعين على الحادثة.
اكتشاف خطأ التقرير قبل تنفيذ العملية
وقبل وقت قصير من تنفيذ العملية المقررة، أجرى مسؤولون مراجعة أعمق للتقرير، الذي أعده محلل في قيادة العمليات الخاصة، ليكتشفوا أنه أُنجز بمساعدة الذكاء الاصطناعي، وأن روبوت محادثة استخدمه المحلل أخطأ في تحديد طبيعة المواد التي كانت السفينة تنقلها.
ولم تتمكن CNN من تحديد طبيعة الحمولة التي جرى التعرف عليها بشكل خاطئ.
وقال أحد المصادر إن التقرير كان «خاطئاً بالكامل»، مضيفاً أنه «كاد أن يبدأ حرباً»، إذ كان من الممكن لأي عملية أمريكية ضد سفينة صينية أن تؤدي إلى تصعيد خطير بين واشنطن وبكين.
الذكاء الاصطناعي يدخل صميم العمل الاستخباراتي
وتأتي الواقعة في وقت تسعى فيه المؤسسات العسكرية والاستخباراتية الأمريكية إلى توسيع استخدام الذكاء الاصطناعي في مختلف مراحل عملها، بدءاً من تحليل الكميات الهائلة من المعلومات الاستخباراتية الخام وتحديد الأهداف المحتملة للضربات، وصولاً إلى مهام أكثر اعتيادية مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.
لكن حادثة السفينة الصينية، بحسب CNN، تبرز مخاطر استخدام هذه التكنولوجيا الجديدة نسبياً وغير المفهومة بالكامل في عمليات الاستهداف خلال الحروب.
ويحذر محللون منذ فترة من أن اعتماد الدول على بيانات ضعيفة أو غير دقيقة قد يقود إلى أخطاء كارثية، خصوصاً عندما تستخدم أنظمة الذكاء الاصطناعي لتحليل معلومات حساسة واتخاذ قرارات ذات تبعات عسكرية مباشرة.
روبوت محادثة دمج معلومات سرية ومفتوحة المصدر
وفي هذه الحالة، طرح المحلل أسئلة على روبوت محادثة بشأن معلومات استخباراتية مرتبطة بسجل حمولة السفينة، وكانت تلك المعلومات قد صدرت في الأصل عن قيادة العمليات الخاصة الأمريكية في المحيط الهادئ، ومقرها هاواي.
ولم يتضح ما إذا كان الروبوت المستخدم من الأنظمة التجارية المتاحة للجمهور أو من منتج طورته الحكومة الأمريكية.
وقال مسؤول أمريكي كبير سابق مطلع على أنظمة الذكاء الاصطناعي المستخدمة من قبل المحللين العسكريين والاستخباراتيين، إن «الأدوات الداخلية في معظمها مجرد نسخ من الأدوات التجارية، لكن مع بعض التعديلات الشكلية».
وبحسب المصادر، قام النظام بدمج معلومات استخباراتية من مصادر مفتوحة مع معلومات استخباراتية سرية جرى الحصول عليها عبر إشارات استخباراتية محفوظة لدى الحكومة، قبل أن يتوصل إلى الاستنتاج الخاطئ بشأن المواد الموجودة على متن السفينة.
بعد ذلك، استخدم المحلل الذكاء الاصطناعي مرة أخرى لصياغة النتائج في قالب تقرير استخباراتي رسمي، من النوع الذي يعتمد عليه المسؤولون العسكريون، قبل توزيعه داخل المؤسسات المعنية.
ولم تستجب قيادة العمليات الخاصة الأمريكية في المحيط الهادئ ووزارة الدفاع الأمريكية لطلب CNN التعليق على الواقعة.
واشنطن تسرّع استخدام الذكاء الاصطناعي عسكرياً
وتستند سرعة تبني الجيش الأمريكي للذكاء الاصطناعي إلى اعتقاد بأنه يمكن أن يساعد القوات على اتخاذ قرارات ميدانية بصورة أسرع، مثل تحديد الأهداف التي ينبغي ضربها أو تحديد أماكن نقل الأصول العسكرية.
ويقول مسؤولون أمريكيون إن واشنطن لا تستطيع التأخر في دمج هذه التكنولوجيا، خصوصاً تحسباً لمواجهة مستقبلية مع الصين أو خصم آخر قد يتمكن من استخدام الذكاء الاصطناعي لاتخاذ قرارات أسرع من الولايات المتحدة.
وفي يناير، أطلق وزير الدفاع الأمريكي بيت هيغسيث استراتيجية الوزارة لتسريع استخدام الذكاء الاصطناعي، بهدف توسيع نطاق التجارب والتطبيقات داخل المؤسسة العسكرية.
وقال هيغسيث عند إعلان الاستراتيجية إن الوزارة ستعمل على إزالة العوائق البيروقراطية وتوجيه الاستثمارات وإتاحة نماذج الذكاء الاصطناعي أمام أفراد الوزارة المدنيين والعسكريين.
وتنص الاستراتيجية على توسيع استخدام الذكاء الاصطناعي عبر مختلف قطاعات وزارة الدفاع، بما يتيح لملايين العاملين فيها الوصول إلى النماذج المتقدمة، وفق مذكرة الإعلان عن الاستراتيجية.
غياب معايير موحدة للتحقق من مخرجات الذكاء الاصطناعي
لكن مسؤولين أمريكيين مطلعين على آلية العمل قالوا لـCNN إن عملية دمج الذكاء الاصطناعي داخل الحكومة الأمريكية لا تزال لا مركزية، إذ تستخدم جهات مختلفة أدوات متعددة، بموجب أوامر ومعايير أمان مختلفة.
ولا توجد، وفق المصادر، مجموعة موحدة من المعايير التي تحدد كيفية التحقق من المعلومات التي تنتجها هذه الأدوات.
ويعني انتشار أنظمة مختلفة للذكاء الاصطناعي داخل قطاعات متفرقة من الجيش وأجهزة الاستخبارات أن مستوى موثوقيتها ووظائفها يمكن أن يختلف بشكل كبير من نظام إلى آخر.
خطر «هلوسة» الذكاء الاصطناعي في الاستهداف
وتأتي هذه الواقعة وسط نقاش أمريكي مكثف حول مخاطر الذكاء الاصطناعي، إلا أن حادثة السفينة الصينية تطرح خطراً أكثر مباشرة، يتمثل في اتخاذ البشر قرارات كارثية استناداً إلى معلومات غير دقيقة أو مضللة أنتجتها أنظمة الذكاء الاصطناعي أو غيرها من الأنظمة الآلية.
وقالت مصادر مطلعة لـCNN إن استخدام الذكاء الاصطناعي في عمليات الاستهداف العسكري يتوسع سريعاً.
وقال أحد المصادر المطلعة على السياسات العسكرية الحالية: «الذكاء الاصطناعي في الاستهداف يتزايد بالتأكيد، ولا توجد إرشادات حقيقية بشأن الكيفية التي سيمنع بها وجود الإنسان في الحلقة سقوط ضحايا مدنيين أو وقوع نيران صديقة».
وأضافت المصادر أن ظاهرة «الهلوسة» التي دفعت النظام المستخدم في هذه الواقعة إلى التوصل إلى استنتاج خاطئ ليست حادثة معزولة داخل مجتمع الاستخبارات، منذ بدء انتشار هذه الأدوات في المؤسسات الحكومية.
ويرى بعض المسؤولين الاستخباراتيين المخضرمين، بمن فيهم من يؤيدون استخدام الذكاء الاصطناعي داخل الجيش على نطاق واسع، أن التكنولوجيا فرضت ضغوطاً إضافية على المحللين لإنتاج المعلومات الاستخباراتية وتوزيعها بسرعة أكبر، ما قد يفتح الباب أمام مزيد من الأخطاء.
وبحسب عدة مصادر، فإن المحللين الأصغر سناً، الذين نشأوا على استخدام هذه الأدوات، قد يكونون أكثر ميلاً إلى الوثوق بمخرجاتها دون التدقيق فيها بالقدر الكافي.