مزارع وثق بنصيحة الذكاء الاصطناعي.. فكانت النتيجة كارثية

لم يتوقع مزارع صيني أن تتحول محادثة مع برنامج ذكاء اصطناعي إلى خسارة ضخمة في محصوله. لكن ذلك ما حدث، وفق تقارير إعلامية، بعدما اتبع الرجل نصيحة قدمها له روبوت محادثة بشأن مكافحة الآفات، ليفاجأ في اليوم التالي بتدمير نحو 10 هكتارات، أي ما يعادل 100 ألف متر مربع، من محاصيل السمسم.

وتسلط الواقعة الضوء على مشكلة متزايدة مع انتشار روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، وهي أن هذه الأنظمة ليست مصممة بوصفها آلات للتحقق من الحقيقة، بل تعتمد على تحليل كميات هائلة من البيانات التي ينتجها البشر، ثم تتعلم الأنماط التي تربط الكلمات والجمل ببعضها، قبل أن تولد إجابات تبدو منطقية ومقنعة للمستخدم.

وقد تكون هذه الإجابات صحيحة في كثير من الأحيان، لكنها ليست صحيحة دائمًا، وهو ما يجعل الاعتماد عليها في القرارات التي تتطلب خبرة متخصصة أمرًا محفوفًا بالمخاطر.

وجدت دراسة دولية حديثة أن 45% من إجابات الذكاء الاصطناعي تضمنت مشكلة واحدة على الأقل، بينما احتوت 20% منها على ما يعرف بـ«الهلوسة»، وهي الحالات التي يقدم فيها النظام معلومات غير صحيحة أو مختلقة بصياغة تبدو واثقة ومقنعة.

ولا تقتصر المشكلة على الزراعة، إذ تشير أبحاث أخرى إلى أن نحو شخص واحد من كل سبعة أشخاص استخدم الذكاء الاصطناعي للحصول على نصائح مرتبطة بالصحة.

كما وجدت دراسات أن بعض الفئات الأكثر عرضة للخطر، أو الأقل إتقانًا للغة الإنجليزية، أو الأقل مستوى من التعليم، قد تحصل في بعض الحالات على معلومات أقل دقة عند استخدام أنظمة الذكاء الاصطناعي.

لكن المشكلة تصبح أكثر خطورة عندما يتعلق الأمر بقرار حقيقي يمكن أن يؤدي الخطأ فيه إلى خسائر مادية أو أضرار صحية أو بيئية.

بحسب تقارير إعلامية في الصين نقلت عن موقع CTWant الإخباري التايواني، فإن مزارعًا يبلغ من العمر 67 عامًا في مدينة تشوتشو الصينية بدأ خلال عدة أشهر في الاعتماد على برنامج دردشة يعمل بالذكاء الاصطناعي لتنظيم أعماله الزراعية.

واستخدم المزارع البرنامج للحصول على نصائح تتعلق بجداول الزراعة، إلى جانب إرشادات حول استخدام الأسمدة.

ورغم أن الرجل كان متشككًا في البداية في بعض النصائح التي يقدمها البرنامج، فإنه مع مرور الوقت بدأ يثق في الإجابات التي يحصل عليها منه، ويستخدمها في إدارة جزء من عمله الزراعي.

لكن الثقة بالروبوت وصلت إلى نقطة خطيرة عندما احتاج المزارع إلى طريقة لمكافحة الآفات التي هاجمت محصول السمسم.

في يوليو، طلب المزارع من برنامج الدردشة تقديم نصيحة بشأن كيفية مكافحة الآفات في محصول السمسم.

وبحسب ما أوردته تقارير إعلامية، من بينها International Business Times، قدم البرنامج توصية تضمنت استخدام مواد كيميائية عدة، من بينها فلوبيريميثالين وفوميسافين، إلى جانب ثياميثوكسازين وملح الميثيل.

ولم يكتف المزارع بالحصول على المعلومات، بل طبق التوصية فعليا ورش المواد على محصول السمسم من دون استشارة خبير زراعي، وكانت النتيجة كارثية.

في اليوم التالي، اكتشف المزارع أن نحو 10 هكتارات من محاصيله، أي قرابة 100 ألف متر مربع، قد تعرضت للتدمير.

وبذلك تحولت نصيحة قدمها برنامج حاسوبي إلى خسارة ضخمة في محصول زراعي كان يعتمد عليه المزارع.

بعد أن لاحظ المزارع الضرر، عاد إلى برنامج الدردشة نفسه وسأله عن سبب المشكلة.

وهذه المرة قدم البرنامج إجابة أكثر فائدة، إذ أوضح أن الفوميسافين مبيد أعشاب يستخدم على نطاق واسع لمكافحة الأعشاب عريضة الأوراق، ولا سيما في محاصيل فول الصويا.

وهنا ظهرت المشكلة الأساسية؛ فالسمسم نفسه من النباتات عريضة الأوراق.

وبحسب ما ورد في التقارير، أوضح برنامج الدردشة للمزارع، من دون تقديم دليل قاطع، أن استخدام مبيد أعشاب يستهدف النباتات عريضة الأوراق لم يكن مناسبًا لمحصول السمسم.

لكن هذه المعلومة جاءت بعد أن كان الضرر قد وقع بالفعل.

ونقل موقع CTWant عن المزارع قوله، في وصفه لما حدث: «إذا قمت برشه، فلن تنجو الشتلات في اليوم التالي»، موضحًا أن المبيد أدى إلى موت الأعشاب والشتلات معًا، وأن الشتلات ماتت بسرعة أكبر.

تكشف هذه الحادثة عن جانب خطير في التعامل مع الذكاء الاصطناعي، فالإجابة التي تبدو دقيقة ومقنعة لا تعني بالضرورة أنها صحيحة أو مناسبة للحالة التي يواجهها المستخدم.

وتزداد خطورة الأمر عندما ينتقل المستخدم مباشرة من السؤال إلى التنفيذ، من دون التحقق من المعلومات أو استشارة شخص متخصص في المجال.

وفي الزراعة تحديدًا، يمكن أن تختلف صلاحية المادة الكيميائية باختلاف نوع المحصول، ومرحلة نموه، والجرعة، وطريقة الاستخدام، ونوع التربة، والظروف الجوية، والتعليمات المحلية الخاصة بالمبيدات.

ولهذا فإن تقديم توصية عامة من روبوت محادثة لا يمكن أن يحل محل الإرشادات الزراعية المتخصصة أو تعليمات المنتجات المعتمدة.

حادثة المزارع الصيني ليست المثال الوحيد على أخطاء الذكاء الاصطناعي التي يمكن أن تترك آثارًا حقيقية.

فقد وثقت دراسة خضعت للمراجعة العلمية حالة رجل تلقى نصيحة باستبدال كلوريد الصوديوم (ملح الطعام) بـبروميد الصوديوم، وهي نصيحة انتهت بعواقب صحية خطيرة.

وتوضح مثل هذه الحالات أن المشكلة لا تكمن فقط في قدرة الذكاء الاصطناعي على ارتكاب الأخطاء، وإنما في مدى ثقة المستخدم في الإجابة الخاطئة عندما تبدو مكتوبة بطريقة مقنعة.

فالروبوت لا يعرف بالضرورة ما إذا كانت الإجابة التي يقدمها صحيحة في العالم الحقيقي، وقد ينتج معلومات تبدو منطقية اعتمادًا على الأنماط التي تعلمها من البيانات.

لا تعني هذه الواقعة أن الذكاء الاصطناعي غير مفيد في الزراعة أو غيرها من المجالات. بل يمكن استخدامه في تنظيم المعلومات، وشرح المفاهيم، والمساعدة في البحث، واقتراح الأسئلة التي ينبغي طرحها على الخبراء.

لكن المشكلة تبدأ عندما يتحول إلى المرجع الوحيد لاتخاذ قرارات قد تترتب عليها خسائر مالية أو أضرار صحية أو بيئية.

وفي حالة المزارع الصيني، كان من الممكن أن تكون استشارة خبير زراعي أو مراجعة الملصقات والتعليمات الرسمية للمبيدات قبل استخدامها كافية لتجنب خسارة نحو 100 ألف متر مربع من المحاصيل.