دعا نحو 400 عالم وباحث من 34 دولة، بينهم اثنان من أبرز رواد الذكاء الاصطناعي في العالم، إلى إنشاء هيئة دولية مستقلة تتولى وضع معايير صارمة للسلامة والأمن السيبراني، والإشراف على أنظمة الذكاء الاصطناعي المتقدمة، محذرين من أن التطور المتسارع لهذه التكنولوجيا بات يفرض تحديات أمنية تتجاوز قدرة الشركات على التعامل معها من خلال الالتزامات الطوعية وحدها.
وذكرت وكالة «رويترز»، الثلاثاء، أن العلماء، ومن بينهم جيفري هينتون ويوشوا بنجيو، الحائزان جائزة تورينغ لعام 2018، وقعوا رسالة مفتوحة تطالب بوضع آليات رقابية دولية تضمن احتواء أنظمة الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية متقدمة، وتمنع استخدامها في اختراق الأنظمة الخارجية أو تهديد البنية التحتية الحيوية.
وتضمنت المطالب إنشاء هيئة دولية تضع معايير موحدة لاحتواء النماذج المتقدمة، إلى جانب تأسيس سجل عالمي للحوادث الأمنية الخطيرة المرتبطة بالذكاء الاصطناعي، على أن تصبح هذه المعلومات متاحة للجمهور مستقبلاً.
وشدد العلماء على ضرورة إبقاء النماذج ذات القدرات السيبرانية المتقدمة معزولة مبدئياً عن الشبكات الخارجية، وإخضاعها لتقييمات أمنية مستقلة قبل السماح لها بالعمل في بيئات متصلة بالإنترنت.
وجاءت هذه الدعوة بعد سلسلة من الحوادث التي قال باحثون إنها كشفت ثغرات في إجراءات اختبار واحتواء بعض أنظمة الذكاء الاصطناعي، بما في ذلك حالات تمكنت فيها نماذج متقدمة من تجاوز قيود أمنية والوصول إلى أنظمة خارجية.
وتأتي المبادرة بعد نحو شهر من توقيع شركات تكنولوجية كبرى، بينها «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا» و«إكس إيه آي» و«إنفيديا»، اتفاقاً في البيت الأبيض يتضمن تعهدات طوعية لتعزيز سلامة الذكاء الاصطناعي، من دون آلية رسمية ملزمة لإنفاذ تلك التعهدات.
ويرى الموقعون على الرسالة أن الاعتماد على التنظيم الذاتي للشركات لم يعد كافياً في ظل تنامي قدرات الأنظمة الذكية، مطالبين المؤسسات التي تطور أو تختبر نماذج قادرة على تنفيذ عمليات سيبرانية بتطبيق معايير احتواء عالية الموثوقية بصورة فورية، بالتوازي مع إعداد أطر رقابية حكومية أكثر شمولاً.
انقسام حول حجم المخاطر
في المقابل، لا يحظى تقييم المخاطر المرتبطة بالذكاء الاصطناعي بإجماع كامل داخل المجتمع العلمي.
فقد امتنع يان لوكون، أحد أبرز الباحثين في هذا المجال والحائز جائزة تورينغ إلى جانب هينتون وبنجيو، عن توقيع الرسالة، معتبراً أن الحوادث الأمنية الأخيرة تعكس بالدرجة الأولى إخفاقات هندسية، وليست بالضرورة دليلاً على مخاطر وجودية مرتبطة بالتكنولوجيا نفسها.
وعلى المستوى التنظيمي، أكدت هينا فيركونن، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، أن قانون الذكاء الاصطناعي الأوروبي يوفر إطاراً كافياً للتعامل مع المخاطر الناجمة عن الأنظمة الخارجة عن السيطرة.
وتعكس هذه التطورات تصاعد النقاش العالمي بشأن كيفية تحقيق التوازن بين تسريع الابتكار التكنولوجي وضمان بقاء الأنظمة المتقدمة خاضعة للرقابة البشرية، في وقت تتزايد فيه الدعوات إلى الانتقال من التعهدات الطوعية إلى معايير دولية قابلة للتحقق والإنفاذ. (نيويورك - وكالات)