ليون-ناثان لينش، محامٍ سبق وأن تحدث عن تجاربه السيئة مع منظومة العدل في بلده، حيث تعرض عشرات المرات للإيقاف والتفتيش من قبل الشرطة تحت تهديد السلاح، علماً أنه لم يكن يحمل سوى كتب القانون، عمليات الإيقاف التي تعرض لها جرت على أساس التنميط العنصري، لكونه أسود البشرة، وهو ما جعله مشتبهاً به لأكثر من مرة.
العنصرية والتحيز على أساس اللون والعرق والدين، ليست أمراً جديداً، فهي حصلت وتحصل، لكن وتيرتها تختلف من بلد لآخر، الجديد في الأمر عندما ينتقل هذا الوباء إلى منظومة العدالة التي وظفت الذكاء الاصطناعي في عملها، فمن المفترض أن العقل المفكر بواسطة هذه الآلات عقل اصطناعي غير بشري لا يعرف التحيز، وسيتعامل على أساس أن الجميع سواسية، لكنه في الحقيقة منحاز أيضاً، وبالطريقة ذاتها، فعلى سبيل المثال، النظام القضائي الأمريكي استخدم خوارزمية COMPAS لتوقع إمكانية عودة المجرمين لارتكاب جرائم جديدة، فأظهر نتيجة متحيزة، حيث توقع النظام الإلكتروني، معدلات أعلى من الحقيقية لاحتمالية عودة السود إلى عالم الجريمة، مقارنة بالمجرمين البيض، وكذلك في قطاع الرعاية الصحية استخدمت خوارزمية في المستشفيات الأمريكية لحصر عدد الأشخاص الذين سيكونون بحاجة إلى رعاية صحية إضافية في المستقبل، ومع أن المدخلات المقدمة للنظام الإلكتروني لم تصنف الناس على أساس ألوانهم ولم تذكرها، إلا أن البرنامج فضل المرضى البيض على السود، وتمكن من تمييزهم على أساس متغيرات أخرى مرتبطة بشكل كبير بالعرق، مثل التاريخ الصحي للمرضى، أيضاً هذا ما جرى في شركة أمازون التي أرادت توظيف مجموعة من العاملين فأحالت سيرهم الذاتية إلى برنامج يعمل بالذكاء الاصطناعي، ففضل الرجال على النساء ومنحهم فرصاً أكبر لشغل الوظائف.
حقيقة الأمر أن أنظمة الذكاء الاصطناعي تعمل بالتدريب، فهي تغذى بمعلومات، وتتأثر بمنهج ونمط وأفكار من يغذيها ويتحاور معها كما هو الحال في ChatGpt، والتحيز في عملها أمر أكده المعهد الوطني للمعايير والتكنولوجيا «NIST» في تقريره عن أنظمة الذكاء الاصطناعي، وبين أنه يساعد الأشخاص في اتخاذ قرارات تؤثر مباشرة على حياة الآخرين.
التحيز في قطاع العدل، لاسيما مع انتشار استخدام الذكاء الاصطناعي في هذا القطاع في العالم، يعد أمراً خطيراً، لأنه قد يقدم توصيات قانونية غير عادلة، أو تفسيرات متحيزة، مما يضر بالعدالة ويؤثر سلباً على نزاهة هذه المنظومة، لذلك، فمن الضروري معالجة التحيزات القادمة مع الذكاء الاصطناعي، لضمان التطبيق بطريقة عادلة وموضوعية، وهنا تبرز الحاجة إلى تطوير خوارزميات ذكاء اصطناعي خالية من التحيزات، فالانتفاع من الذكاء الاصطناعي أمر لابد منه وإيجابياته كثيرة جداً.
* عميد كلية القانون – الجامعة الخليجية
العنصرية والتحيز على أساس اللون والعرق والدين، ليست أمراً جديداً، فهي حصلت وتحصل، لكن وتيرتها تختلف من بلد لآخر، الجديد في الأمر عندما ينتقل هذا الوباء إلى منظومة العدالة التي وظفت الذكاء الاصطناعي في عملها، فمن المفترض أن العقل المفكر بواسطة هذه الآلات عقل اصطناعي غير بشري لا يعرف التحيز، وسيتعامل على أساس أن الجميع سواسية، لكنه في الحقيقة منحاز أيضاً، وبالطريقة ذاتها، فعلى سبيل المثال، النظام القضائي الأمريكي استخدم خوارزمية COMPAS لتوقع إمكانية عودة المجرمين لارتكاب جرائم جديدة، فأظهر نتيجة متحيزة، حيث توقع النظام الإلكتروني، معدلات أعلى من الحقيقية لاحتمالية عودة السود إلى عالم الجريمة، مقارنة بالمجرمين البيض، وكذلك في قطاع الرعاية الصحية استخدمت خوارزمية في المستشفيات الأمريكية لحصر عدد الأشخاص الذين سيكونون بحاجة إلى رعاية صحية إضافية في المستقبل، ومع أن المدخلات المقدمة للنظام الإلكتروني لم تصنف الناس على أساس ألوانهم ولم تذكرها، إلا أن البرنامج فضل المرضى البيض على السود، وتمكن من تمييزهم على أساس متغيرات أخرى مرتبطة بشكل كبير بالعرق، مثل التاريخ الصحي للمرضى، أيضاً هذا ما جرى في شركة أمازون التي أرادت توظيف مجموعة من العاملين فأحالت سيرهم الذاتية إلى برنامج يعمل بالذكاء الاصطناعي، ففضل الرجال على النساء ومنحهم فرصاً أكبر لشغل الوظائف.
حقيقة الأمر أن أنظمة الذكاء الاصطناعي تعمل بالتدريب، فهي تغذى بمعلومات، وتتأثر بمنهج ونمط وأفكار من يغذيها ويتحاور معها كما هو الحال في ChatGpt، والتحيز في عملها أمر أكده المعهد الوطني للمعايير والتكنولوجيا «NIST» في تقريره عن أنظمة الذكاء الاصطناعي، وبين أنه يساعد الأشخاص في اتخاذ قرارات تؤثر مباشرة على حياة الآخرين.
التحيز في قطاع العدل، لاسيما مع انتشار استخدام الذكاء الاصطناعي في هذا القطاع في العالم، يعد أمراً خطيراً، لأنه قد يقدم توصيات قانونية غير عادلة، أو تفسيرات متحيزة، مما يضر بالعدالة ويؤثر سلباً على نزاهة هذه المنظومة، لذلك، فمن الضروري معالجة التحيزات القادمة مع الذكاء الاصطناعي، لضمان التطبيق بطريقة عادلة وموضوعية، وهنا تبرز الحاجة إلى تطوير خوارزميات ذكاء اصطناعي خالية من التحيزات، فالانتفاع من الذكاء الاصطناعي أمر لابد منه وإيجابياته كثيرة جداً.
* عميد كلية القانون – الجامعة الخليجية
