وكان أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها يخضع للتدريب في بيئة اختبار معزولة، حين استغل «ثغرة» للوصول إلى الإنترنت العام.
وباستخدام هذا الاتصال، أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة لم تُحدد هويتها وتتبع جهة أخرى، من بينها: «ما عاصمة فرنسا؟»، وفقاً لما أظهره التقرير.
وقالت مطوّرة الذكاء الاصطناعي: يمنحنا ذلك مؤشراً مهماً إلى الموضع الذي ينبغي أن نركز عليه في المرحلة المقبلة من هذا العمل.
وأوضحت الشركة أنها قررت، عقب الحادث الأخير، تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرةً إلى حين إصلاح خلل البيئة المعزولة.
وأضافت «أوبن إيه آي»: «لن نستأنف تدريب هذا النموذج بعينه».
وأثارت الاختراقات التي نفذتها نماذج ذكاء اصطناعي طورتها «أوبن إيه آي» و«أنثروبيك» و«ديب مايند» التابعة لشركة «جوجل» و«ميتا بلاتفورمز» خلال الأشهر الأخيرة قلق خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي.
وكانت واقعة «هاغينغ فيس» من بين الأسباب التي ذكرها الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي حين دعا قبل أسبوعين إلى إبطاء تطوير الذكاء الاصطناعي على مستوى القطاع.
وأثارت دعوته، التي سرعان ما أيدها الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك وآخرون، نقاشاً عالمياً بشأن الحاجة إلى مزيد من تنظيم الذكاء الاصطناعي.

