«أنثروبيك» تدعو إلى إبطاء تطوير نماذج الذكاء الاصطناعي بسبب مخاطرها على البشر

دعا داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة، محذراً من أن سرعة تطور القدرات قد تتجاوز قدرة الباحثين والحكومات على وضع ضوابط فعالة للسلامة والسيطرة على المخاطر.
وقال أمودي، في مقال نشره السبت، إن إبطاء التطوير لا يعني وقف تدريب النماذج أو التخلي عن التقدم التقني، وإنما إتاحة وقت إضافي أمام إجراءات السلامة والمواءمة للحاق بسرعة تطور القدرات، بما يسمح بتقييم النماذج وتأمينها قبل الوصول إلى مستويات أكثر خطورة.
واقترح إبطاء وتيرة تطوير الذكاء الاصطناعي لمدة عام أو عامين قبل بلوغ النماذج مستويات حرجة من القدرات، معتبراً أن هذه الفترة يمكن أن تمنح الشركات والباحثين فرصة لتعزيز مواءمة النماذج مع أهداف البشر وقيمهم، وإجراء اختبارات أكثر صرامة للقدرات والمخاطر.
وطرح أمودي خطة من ثلاثة محاور لتحقيق ما وصفه بـ«وتيرة آمنة» لتطوير الذكاء الاصطناعي، تشمل إتاحة وصول دائم لجهات تقييم مستقلة إلى أنظمة شركات الذكاء الاصطناعي الرائدة، بهدف التحقق من تطبيق معايير السلامة والإبلاغ عن المخاطر والحوادث، إلى جانب تنسيق معايير السلامة بين الشركات والدول.
كما دعا إلى تعاون دولي أوسع بين الحكومات، بما في ذلك دول تختلف سياساتها وأنظمتها، للتوصل إلى قواعد مشتركة للحد من المخاطر الأكثر خطورة، مشيراً إلى أن بعض الإجراءات تستطيع الشركات تنفيذها منفردة، بينما يتطلب بعضها الآخر تنسيقاً واسعاً بين القطاع والحكومات.
وتأتي دعوة أمودي وسط تصاعد المخاوف من تنامي قدرات نماذج الذكاء الاصطناعي في مجالات مثل الأمن السيبراني، فضلاً عن احتمال وصولها مستقبلاً إلى مرحلة تستطيع فيها تطوير أنظمة أكثر تقدماً اعتماداً على نفسها، فيما يعرف بـ«التحسين الذاتي التكراري»، وهو سيناريو يخشى باحثون أن يجعل السيطرة البشرية على هذه الأنظمة أكثر صعوبة.
وأكد أمودي في المقابل أن الذكاء الاصطناعي يحمل إمكانات كبيرة لتحسين حياة البشر، بما في ذلك تسريع النمو الاقتصادي والمساعدة في تطوير علاجات للأمراض، لكنه شدد على ضرورة أن تواكب إجراءات السلامة سرعة التطور التقني، محذراً من أن استمرار السباق دون ضوابط كافية قد يزيد احتمالات وقوع أضرار جسيمة.
ولقيت الدعوة صدى لدى عدد من كبار مسؤولي قطاع التكنولوجيا، بينهم الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك، في وقت يتزايد فيه النقاش العالمي حول كيفية تحقيق التوازن بين تسريع الابتكار في الذكاء الاصطناعي ووضع ضوابط تضمن سلامة استخدامه.