حذّر قادة عدد من أبرز شركات الذكاء الاصطناعي العالمية، خلال اجتماع لمجلس الأمن الدولي في نيويورك، من المخاطر المتزايدة للأنظمة الذكية الأكثر استقلالية، داعين إلى تعاون دولي أوسع ووضع معايير مشتركة تضمن بقاء هذه التقنيات تحت السيطرة البشرية.
وقال الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان، خلال الاجتماع الذي عقد الأربعاء، إن العالم يقف أمام «خيار حاسم»، موضحاً أن الذكاء الاصطناعي قد يقود إلى نهضة جديدة في الإبداع والاكتشاف، أو إلى مرحلة من الاضطراب الواسع شبيهة بالتحولات التي رافقت الثورة الصناعية.
وحذر ألتمان من أن الأنظمة التي تزداد استقلالية قد تتطور بسرعة تفوق قدرة المؤسسات على مواكبتها، أو تؤدي إلى تركّز القوة في أيدي عدد محدود من الجهات، أو تتخذ قرارات لا يفهمها البشر ولا يستطيعون السيطرة عليها، خصوصاً مع توجه بعض النماذج نحو قدرات متقدمة على تحسين أدائها ذاتياً.
وأضاف أن اختلاف التقديرات بشأن احتمال وقوع كوارث مرتبطة بالذكاء الاصطناعي لا يغيّر جوهر المشكلة، قائلاً إن نسب المخاطر، سواء كانت 10% أو 1% أو أقل، تظل غير مقبولة، وإنه لا ينبغي تدريب نماذج لا توجد أدلة قوية على إمكانية إبقائها تحت السيطرة البشرية.
واختتم ألتمان مداخلته بالتأكيد على أن القرارات المصيرية المتعلقة بمستقبل الذكاء الاصطناعي لا ينبغي أن تبقى حكراً على مختبرات التكنولوجيا، قائلاً إن مستقبل هذه التقنية، إذا أريد له أن يكون ديمقراطياً، يجب أن يتشكل عبر عمليات ديمقراطية وحكومات خاضعة للمساءلة أمام شعوبها.
وشارك في الاجتماع أيضاً الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، والرئيس التنفيذي لمنصة «هاغينغ فيس» كليم ديلانغ، عبر الاتصال المرئي.
وتأتي التحذيرات في أعقاب سلسلة من الحوادث الأمنية التي زادت المخاوف بشأن معايير الرقابة والسلامة، من بينها اختراق مرتبط بأحد نماذج الذكاء الاصطناعي لمنصة «هاغينغ فيس»، إضافة إلى كشف «أوبن إيه آي» الأسبوع الماضي عن ست حوادث جديدة أظهرت فيها نماذج تابعة لها سلوكيات تضمنت إخفاء أخطاء، والسعي للحصول على بيانات اعتماد غير مصرح بها، وممارسات أخرى غير مرغوب فيها.
وقال ديلانغ إن فهم المخاطر السيبرانية الناشئة والتخفيف منها يتطلبان وضع معايير عالمية أقوى لمراقبة الأنظمة والإفصاح عن الحوادث.
من جانبه، قال أمودي إن استمرار المسار الحالي لتطور الذكاء الاصطناعي لعام أو عامين إضافيين قد يقود إلى ظهور ما وصفه بـ«دولة من العباقرة داخل مركز بيانات»، في إشارة إلى أنظمة تتمتع بقدرات معرفية هائلة.
وأشار إلى أن هذه القدرات قد تفتح آفاقاً علمية واسعة، مستشهداً باكتشاف نظام إنزيمي مخفي في الحمض النووي للعاثيات قاد إليه نموذج «كلود»، لكنه حذر في الوقت نفسه من احتمال إساءة استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية أو فقدان السيطرة على الأنظمة المتقدمة.
ودعا أمودي إلى اتفاق دولي يحظر استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية، إلى جانب إنشاء أنظمة مشتركة للتقييم والتحقق، ووضع معايير موحدة لاختبار مخاطر النماذج، وآلية عالمية للإبلاغ عن التهديدات الأمنية المرتبطة بها.
وكانت لجنة علمية دولية مستقلة معنية بالذكاء الاصطناعي ومدعومة من الأمم المتحدة قد حذرت أخيراً من أن «الحواجز الوقائية» الحالية المحيطة بالذكاء الاصطناعي بدأت تتفكك، في وقت تتقدم فيه قدرات النماذج بوتيرة أسرع من تطوير الحكومات للأطر التنظيمية اللازمة لضبطها.