كشفت شركة الرقائق الإلكترونية الأمريكية العملاقة إنفيديا اليوم الاثنين عن منصة أمنية جديدة تقول إنها قادرة على منع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين والتصرف خارج سيطرة المستخدمين.
وقالت الشركة إن منصة أوبن أيجنت سيفتي "منصة سلامة الوكلاء المفتوحة" تحتوي على برامج مفتوحة المصدر ستضع حدوداً للوكلاء، وتأتي بعد إعلان كبرى شركات تطبيقات الذكاء الاصطناعي عن خروج نماذج ذكاء اصطناعي متطورة تابعة لها عن السيطرة واختراقها لأنظمة شركات أخرى.
وفجر الكشف عن هذه الاختراقات الخطيرة جدلا حادا بشأن مدى سلامة أنظمة الذكاء الاصطناعي المتطورة بما في ذلك النماذج التي تحسن نفسها ذاتيا، مما يهدد باحتمال خروجها عن سيطرة البشر.
وقال مسؤولون في إنفيديا في إيجاز إعلامي إن النظام الجديد يمكن أن يمنع تكرار الحوادث الأخيرة، بما في ذلك حادث اختراق وكلاء ذكاء اصطناعي تابعة لشركة أوبن أيه.آي لنظام شركة الذكاء الاصطناعي الناشئة هاجينج فيس.
وقال جاستن بويتانو نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي "من خلال ما نعرفه، فإن منصة الأمن الجديدة كانت ستستطيع وقف الاختراق لو تم استخدامها داخل المعامل أثناء تقييم نموذج الذكاء الاصطناعي من البداية"، في إشارة إلى الشركات الرائدة في مجال تطوير تطبيقات الذكاء الاصطناعي.
كان اختراق نظام شركة هاجينج فيس حدثا أمنيا كبيرا أثار المخاوف بشدة من المخاطر المحتملة للذكاء الاصطناعي، وجاء بعده حادث مماثل عندما اخترق نموذج ذكاء اصطناعي من تطوير أوبن أيه.آي موقع وزارة الصحة الأسترالية. وأعلنت شركتا أنثروبيك وميتا أيضا عن وقوع حوادث اختراق غير مقصودة من جانب نماذج الذكاء الاصطناعي الخاصة بها.
وقال بويتانو إن برنامج إنفيديا الجديد "أوبن شل" سيتيح للمطورين "التأكد بصورة رسمية من أن أي وكيل ذكاء اصطناعي لديه الصلاحية الكافية للقيام بوظيفته فقط دون زيادة".
ونظراً لأنه مفتوح المصدر يمكن استخدام هذا البرنامج مع منصات من تطوير شركات رقائق أخرى مثل أرم وإنتل.