الخطر الأكبر الذي تثيره مثل هذه الوقائع هو: ماذا لو توسع هذا الأمر، وقررت ماكينات وآلات الذكاء الاصطناعي أن تعطي أوامر من تلقاء نفسها لشن حرب نووية مثلاً ضد بلد آخر، وما المدى الذي يمكن أن يصل إليه ذكاء الآلات إذا فاق ذكاء البشر بمراحل؟
ومن التخيلات إلى الواقع فإن بعض النماذج الروبوتية تجاوزت الإنسان في اختبارات علمية ورياضية.. ما يعنى أن الآلة أصبحت أذكى من الإنسان، والأهم أنها تتمرد عليه، وهناك وقائع محددة حدثت بالفعل.
في تجارب أجرتها مؤسسة «باليساد البحثية» تم إعطاء النموذج الروبوتي مهمة محددة، وتم برمجته بحيث يتوقف قبل إكمال المهمة، لكن في 79 من أصل 100 تجربة قام النموذج بتعديل أو تعطيل آلية الإيقاف حتى يتمكن من إكمال المهمة، رغم أنه تم تزويده لاحقاً بخاصية أن يوقف نفسه لكنه لم يتوقف.
وفى اختبار آخر لمؤسسة أبوللو مع أوبن «A1» وضع نموذج «O1» في بيئة افتراضية يعتقد فيها أن هدفه يتعارض مع هدف مطوريه، والنتيجة كانت مذهلة، حيث حاول النموذج تعطيل آلية الرقابة في 5% من الحالات، كما تلاعب بالبيانات سراً لتحقيق هدفه في 19% من الحالات، وحينما تم مواجهته بما فعل أنكر وقدم تفسيراً مضللاً في 99% من الحالات التي قام فيها بذلك.
وطبقاً للخبراء فما حدث أكثر خطراً وتعقيداً من مجرد «رفض أمر» فالنموذج تصرف بطريقة تخدم هدفاً محدداً وأخفى ما فعله عن المشرفين عليه، والغريب أن الشركة طبقت هذه الظاهرة على نماذج متعددة ووجدت سلوكيات مشابهة في نماذج من شركات مختلفة.
يقول خبراء الذكاء الاصطناعي إن كل ما سبق لا يعنى أن «الآلة تريد البقاء»، فما حدث من وجهة نظر هؤلاء الخبراء يقولون إنه لا يوجد دليل علمي يثبت أن هذه النماذج لديها غريزة بقاء أو وعي أو رغبة شخصية مثل الإنسان.
وإضافة للنماذج المتمردة: فهناك نماذج لم تكتف الآلة بمنع الإيقاف بل أضافت النسخ الذاتي والخداع بعد العطل.. وفي 96% من التجارب فإن السيناريو «المحاكاة» المعين انتهى بمحاولات ابتزاز.
التحذير الأشد جاء من السيناتور الأمريكي، بيرني ساندرز، في رسالة شديدة اللهجة إلى كبار رؤساء شركات الذكاء الاصطناعي التنفيذيين، قائلاً: من أجل مصلحة الإنسانية، تمسكوا بتعهدكم وأوقفوا تطوير الذكاء الاصطناعي، لم يفت الأوان بعد لتجنب الكارثة، توقفوا عن تطوير آلات لا يستطيع البشر السيطرة عليها، وإذا لم تتخذوا الإجراء المناسب الآن، فسأفعل أنا وزملائي في مجلس الشيوخ الأمريكي ذلك.
وما يبدو أنه تجارب علمية داخل المعامل المغلقة قد نتفاجأ غداً بأننا أمام «وحوش روبوتية» قررت أن تتمرد على صانعها ومصممها مثلما فعل نموذج فرانكشتاين في الرواية الشهيرة للكاتبة الإنجليزية ماري شيلي المنشورة عام 1808، وتدور حول العالم فيكتور فرانكشتاين الذي جمع أجزاء بشرية واستخدم العلم لأحياء كائن جديد، لكن وبعد نجاح التجربة فقد السيطرة على ما صنعه، فتحول الإنجاز العلمي إلى مصدر خطر ومأساة.. فهل نصل إلى نموذج فرانكشتاين حقيقي من الآلات؟ نتمنى ألا يصل العالم إلى هذه اللحظة.