أعلنت شركة «جوجل» أن نموذج الذكاء الاصطناعي التابع لها «جيميناي» اخترق الأنظمة الإلكترونية لثلاث شركات أخرى دون الحصول على إذن؛ في حادثة هي الأولى من نوعها في الشركة.
وأوضحت الشركة أن الواقعة تمت في مايو الماضي، حيث تمكن النموذج من الدخول إلى ثلاثة أنظمة حاسوبية خاصة عبر تخمين كلمات المرور، واستخدام قواعد بيانات علنية لكلمات السر المتاحة على شبكة الإنترنت في محاولتين منها، حسب ما ذكر موقع «سي إن بي سي».
جاء هذا الحادث في إطار اختبارات الأمن السيبراني المعروفة بـ«الاستحواذ على الراية»، التي أدارتها شركة «إريجولار» الناشئة.
وكان من المفترض حظر وصول وكلاء الذكاء الاصطناعي التابعين لـ«جوجل» إلى شبكة الإنترنت المفتوحة، غير أن ثغرة برمجية في بيئة الاختبار أتاحت للنموذج الاتصال بالشبكة.
وقالت «جوجل» إن وكلاء الذكاء الاصطناعي أوقفوا عمليات التسلل فور إدراكهم أنهم وصلوا إلى أنظمة شركات حقيقية وليست مجرد أجزاء من بيئة المحاكاة والاختبار.
وقال بيان من الشركة إن «هذه الأحداث تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية للتصرف بمسؤولية».
يأتي هذا الإفصاح في وقت تتصاعد فيه ضغوط الرقابة والمتابعة في واشنطن وواحة السيليكون إزاء المخاطر الناجمة عن انحراف سلوكيات أنظمة الذكاء الاصطناعي، إذ أبلغت شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» خلال الأسابيع الأخيرة عن حوادث مماثلة تمكنت فيها نماذجها الذكية من الخروج من بيئات الاختبار المغلقة.