«أوبن إيه آي» تكشف عن اختراق جديد للذكاء الاصطناعي

أعلنت شركة «أوبن إيه آي» أن نظاماً آخر للذكاء الاصطناعي الوكيل، كان يخضع للتدريب في بيئة يُفترض أنها مؤمّنة ومعزولة عن الإنترنت، تمكّن من الوصول إلى الشبكة للتواصل مع روبوت محادثة خارجي تابع لجهة أخرى.

واكتُشفت الواقعة قبل أقل من أسبوع، وفقاً لتدوينة نُشرت الجمعة على موقع «أوبن إيه آي».

وكان أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها يخضع للتدريب في بيئة اختبار معزولة، حين استغل «ثغرة» للوصول إلى الإنترنت العام.

وباستخدام هذا الاتصال، أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة لم تُحدد هويتها وتتبع جهة أخرى، من بينها: «ما عاصمة فرنسا؟»، وفقاً لما أظهره التقرير.

ووصفت «أوبن إيه آي» الخروج من البيئة المعزولة بأنه أول حادث أمني من نوعه منذ أن تمكنت مجموعة من النماذج من الوصول إلى الإنترنت خلال اختبارات داخلية، واخترقت من دون قصد نظام منصة الذكاء الاصطناعي «هاغينغ فيس» في يوليو.

وقالت مطوّرة الذكاء الاصطناعي: يمنحنا ذلك مؤشراً مهماً إلى الموضع الذي ينبغي أن نركز عليه في المرحلة المقبلة من هذا العمل.

وأوضحت الشركة أنها قررت، عقب الحادث الأخير، تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرةً إلى حين إصلاح خلل البيئة المعزولة.

وأضافت «أوبن إيه آي»: «لن نستأنف تدريب هذا النموذج بعينه».

وأثارت الاختراقات التي نفذتها نماذج ذكاء اصطناعي طورتها «أوبن إيه آي» و«أنثروبيك» و«ديب مايند» التابعة لشركة «جوجل» و«ميتا بلاتفورمز» خلال الأشهر الأخيرة قلق خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي.

وكانت واقعة «هاغينغ فيس» من بين الأسباب التي ذكرها الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي حين دعا قبل أسبوعين إلى إبطاء تطوير الذكاء الاصطناعي على مستوى القطاع.

وأثارت دعوته، التي سرعان ما أيدها الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك وآخرون، نقاشاً عالمياً بشأن الحاجة إلى مزيد من تنظيم الذكاء الاصطناعي.