سواء كان الأمر يتعلق بنصيحة طبية أو إرشادات بشأن الزراعة الصناعية، فإن أمرًا واحدًا بات واضحًا تمامًا؛ لا يجب الوثوق أبدًا في روبوت دردشة يعمل بالذكاء الاصطناعي من دون الحصول أولًا على رأي ثانٍ، ويُفضّل أن يكون من شخص لديه خبرة فعلية في المجال.
وهذه هي الخلاصة المستفادة من واقعة شهدتها مدينة تشوتشو الصغيرة في الصين، بعدما قدّم روبوت الدردشة نصيحة أدت إلى موت محاصيل تمتد على مساحة 25 فدانًا "104,000 متر مربع" في وقت مبكر.
وبدأ الأمر عندما قرر مزارع يبلغ من العمر 67 عامًا استشارة روبوت دردشة للحصول على النصائح قبل نحو عام. وكان متشككًا في البداية، لكن المزارع بدأ يتخلى عن حذره بعد بعض النجاحات المبكرة التي حققتها نصائح الذكاء الاصطناعي المتعلقة بالزراعة، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والابتكار.
ومنذ ذلك الحين، أصبح المزارع يعتمد على روبوت الدردشة في كل شيء، بدءًا من الإرشادات المتعلقة بالتسميد وصولًا إلى جدولة المهام المختلفة في المزرعة.
وبعد أشهر من الاستشارات المثمرة، قرر اتباع خطة جديدة للمبيدات اقترحها روبوت الدردشة حرفيًا، فقام برشّ حوالي 25 فدانًا من شتلات السمسم الثمينة، دون الرجوع إلى خبير أو مراجعة أي وثائق خارجية.
وكانت الخطة التي اقترحها روبوت الدردشة أشبه بمزيج من المواد الكيميائية الزراعية، إذ تضمنت خليطًا من "فلوبيريدين عالي الكفاءة" و"فلوفينازيت" لمكافحة الأعشاب الضارة، إلى جانب كميات كبيرة من "ثياميثوكسام" و"بنزوات الإيمامكتين" للحشرات والآفات الأخرى.
وقال المزارع إن محصول السمسم بدأ يذبل ويموت بعد أقل من يوم واحد من استخدام العلاج، وفقًا لمقابلة مصورة ترجمها موقع "تومز هاردوير" المتخصص في أخبار التكنولوجيا.
وقدّم المزارع نصيحة اكتسبها بتجربة قاسية إلى المزارعين الآخرين الذين يفكرون في استخدام هذا الخليط، قائلًا: "إذا رششتموه، فلن تبقى الشتلات حية في اليوم التالي".
وأضاف متحسرًا: "ستموت الأعشاب والشتلات معًا، لكن الشتلات ستموت بشكل أسرع".
وهذه ليست سوى أحدث حالة يقدم فيها روبوت دردشة يعتمد على نموذج لغوي كبير معلومات خاطئة ومضللة توقع أحد مستخدميه في مأزق.