لماذا يخشى مبتكرو الذكاء الاصطناعي انقراض البشرية؟

مايكل بيل، وجورج هاموند، وكريستينا كريدل

وبعد يوم واحد، صرح بول كريستيانو، المسؤول عن سلامة الذكاء الاصطناعي، والمعين حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، بأن غالبية البشر سيلقون حتفهم، ما لم تفرض ضمانات وتدابير حماية أكثر صلابة.

وأضافت المصادر أن عدم الثقة بين داريو أمودي رئيس شركة «أنثروبيك»، وسام ألتما الرئيس التنفيذي لـ«أوبن إيه آي»، من شأنها أن تعرقل مساعي التعاون المشترك.

فقد أصبح «وكلاء الذكاء الاصطناعي» يعملون باستقلالية لفترات أطول، وتتنسق في ما بينها ضمن «أسراب» متكاملة، تظهر قدرات اختراق سيبراني عالية التعقيد.

كما حققت النماذج مؤخراً إنجازات علمية ورياضية استعصت على الحل لعقود. وفي الوقت نفسه، تسعى شركتا «أوبن إيه آي» و«أنثروبيك» إلى تحقيق ما يُعرف بـ «التحسين الذاتي المتكرر»، حيث تطور أنظمة الذكاء الاصطناعي نفسها بنفسها، مع تضاؤل الحاجة للتدخل البشري.

وقد أظهرت بعض النماذج سلوكيات تنطوي على الخداع والتآمر، بل ووصلت في بعض الحالات إلى الابتزاز. فيما كشفت تقييمات عن محاولات قامت بها نماذج لمقاومة محاولات إيقاف تشغيلها.

ووزعوا المهام في ما بينها، بل إن بعضها ضحى بنفسه في سبيل تحقيق الهدف الجماعي. ولتغطية هذا الخداع، قامت الأنظمة بالتلاعب بالسجلات والبيانات، واخترقت المنصة، على الرغم من أن بعض الوكلاء أشاروا ضمنياً إلى أن هذا التصرف غير أخلاقي.

مضيفاً أن تلك الأنظمة قد تصل بمنطقية إلى استنتاج مفاده أن عليها خداعنا والتخفي عنا، بل والسيطرة علينا في نهاية المطاف، مشيراً إلى أننا نقترب بالفعل من هذه النقطة الحرجة.

مشيرين إلى أن هذا التركيز قد يوجه التنظيمات التشريعية نحو فرض أطر سلامة مكلفة مالياً، يعجز المنافسون الأصغر عن الامتثال لها، ما يعزز هيمنة الشركات الكبرى، ويُرسخ موقعها في السوق.