عطّل وكلاء ذكاء اصطناعي في شركة «أوبن إيه آي» أنظمة المراقبة والضمانات المصممة لرصد أي سلوك غير سليم من جانب هذه البرمجيات المستقلة، وذكرت الشركة المطورة لـ ChatGPT أنه خلال مهمتين داخليتين سعت هذه الكيانات إلى خداع الموظفين عمداً، واتخذت خطوات لإضعاف أنظمة المراقبة في الشركة، في حادثة يرجح أن تزيد المخاوف العالمية بشأن سلامة هذه التكنولوجيا، بحسب فايننشيال تايمز.
وفي إحدى الحوادث التي وقعت في وقت سابق من هذا الشهر قام أحد الوكلاء بتعطيل التنبيهات التلقائية الموجهة لفريق الأمن في «أوبن إيه آي»، وخلال مهمة أخرى بعد بضعة أيام قام وكيل آخر بإزالة نظام مراقبة، ثم كذب على موظفي الشركة بشأن قيامه بذلك.
وأوضحت «أوبن إيه آي» في تدوينة لها أنه «في كلتا الحالتين، نظر الوكلاء في مسألة الإبقاء على ضمانات المراقبة من عدمها، لكنهم فسروا تعليمات برمجية روتينية على أنها إذن بإضعاف تلك الضمانات».
وقد واجهت الشركة الناشئة، التي تقدر قيمتها بـ 852 مليار دولار، سلسلة حوادث، أظهرت فيها نماذج الذكاء الاصطناعي المتقدمة لديها سلوكيات غير مقصودة وإشكالية؛ إذ تمكنت بعض النماذج من تجاوز الضوابط أثناء الاختبار، واخترقت منصة الذكاء الاصطناعي «Hugging Face»، كما اخترقت أيضاً مواقع إلكترونية تابعة لهيئة الصحة العامة في أستراليا.
وصرح سام ألتمان، الرئيس التنفيذي للشركة، بأنهم سيؤجلون الطرح العام الأولي، الذي كان متوقعاً هذا العام، إلى حين التمكن من «الانتقال بثقة تامة إلى المرحلة التالية من الذكاء الاصطناعي»، مع معالجة المخاوف المتعلقة بالسلامة في الوقت ذاته، ومن المتوقع الآن أن يتم الطرح في العام المقبل.
وأشارت OpenAI إلى أنها تعمل على تعزيز تدابير المراقبة استجابة لهذه الحوادث التي وقعت قبل نحو أسبوعين، كما ذكرت أنها تجري تحقيقاً لمعرفة ما إذا كانت هذه الحالات تعكس مجرد «إصرار مفرط غير ضار» أم أنها تنم عن «ميل للالتفاف» على الأنظمة المستخدمة للكشف عن الأنشطة غير السليمة.
ومن شأن هاتين الحادثتين أن تزيدا من المخاوف المتنامية حول قدرات نماذج الذكاء الاصطناعي، ومدى قدرة شركات مثل «أوبن إيه آي» ومنافساتها، مثل شركة «أنثروبيك»، على كبح السلوكيات غير المرغوب فيها، وضمان ألا تشكل نماذجها مخاطر سيبرانية جسيمة عند طرحها للاستخدام.
وأبدى بعض الخبراء قلقاً بالغاً من أن النماذج المتقدمة تدرك متى تتم مراقبتها، وقد تسعى لإخفاء أي سلوك غير لائق أو التصرف بشكل مختلف في الاختبارات عما ستفعله في الواقع.
وكشفت عمليات تدقيق أجرتها جهات تحقيق مستقلة أن حوادث الاختراق الأخيرة كانت أوسع نطاقاً مما أعلنته «أوبن إيه آي» في البداية، وشملت أنشطة تهدف لإخفاء محاولات جمع البيانات.
وفي أغسطس أعلنت «أوبن إيه آي» أنها أجرت تعديلات شاملة على إجراءات الاختبار لديها، وأنها ستخصص المزيد من الموارد لمراقبة أنظمة الذكاء الاصطناعي، بما في ذلك إطلاق الإنذار في غضون 30 دقيقة من اكتشاف أي مشاكل محتملة.