أثارت شركة جوجل موجة من الجدل في الأوساط الطبية بعد أن ارتكب نظامها الطبي القائم على الذكاء الاصطناعي، المعروف باسم Med-Gemini، خطأ فادحًا خلال مراجعة أحد فحوصات الدماغ.
وأشار النظام إلى وجود مشكلة في عضو يدعى "basilar ganglia"، وهو عضو لا وجود له في تشريح جسم الإنسان.
خلط كارثي بين أجزاء الدماغ
وفقًا لما كشفه تقرير لموقع "The Verge"، يبدو أن الذكاء الاصطناعي دمج بين اسمين حقيقيين في الدماغ "العقد القاعدية" (basal ganglia) التي تساعد في التحكم في الحركة والانفعالات، و"الشريان القاعدي" (basilar artery)، وهو شريان رئيسي في قاعدة الدماغ.
وأدى الخطأ إلى تركيب اسم غير موجود في الطب، ما يعكس واحدة من أخطر ظواهر "هلوسة الذكاء الاصطناعي".
غموض حول تصحيح الخطأ
ظهر الخطأ في ورقة بحثية نشرتها جوجل للترويج لقدرات Med-Gemini، وكذلك في منشور رسمي على مدونة الشركة.
وقد لاحظ برايان مور، طبيب الأعصاب، الخطأ وأبلغ عنه، لتقوم جوجل لاحقًا بتعديل المنشور بصمت دون الإشارة إلى التغيير، بينما لا تزال الورقة البحثية الأصلية دون تصحيح حتى الآن.
وقد أثار هذا التصرف استياء عدد من المتخصصين الذين وصفوا الموقف بـ"غير المهني".
خطر التجريب على أرض الواقع
القلق الأكبر أن جوجل بدأت بالفعل باختبار نظام Med-Gemini داخل بيئات المستشفيات.
ولم يتوقف الأمر عند هذا الخطأ، بل كشفت تجارب أخرى أن نموذجًا موازيًا يُدعى MedGemma قدّم تشخيصات صحيحة فقط عند طرح أسئلة معقدة، بينما فشل في التعرف على المشكلات نفسها عند تبسيط الأسئلة، ما يشير إلى خلل أعمق في طريقة تحليل وفهم الحالات الطبية.
هلوسة الذكاء الاصطناعي تثير جدلاً عالمياً
تُعيد هذه الواقعة تسليط الضوء على واحدة من أخطر مشكلات الذكاء الاصطناعي في المجال الطبي، وهي ما يُعرف بـ"هلوسة النماذج"، حين يختلق النظام معلومات غير حقيقية لكنه يعرضها بثقة تامة.
ويُحذر من أن هذا النوع من الأخطاء، إذا لم يتم رصده مبكرًا، قد يؤدي إلى تشخيصات خاطئة أو تدخلات طبية غير ضرورية، خاصة في ظل الاعتماد المتزايد على أنظمة الذكاء الاصطناعي في المستشفيات حول العالم.
.