في وقت تتوسع فيه الشركات في استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، من كتابة الأكواد والتعامل مع قواعد البيانات إلى تشغيل أدوات وخدمات داخل بيئات الشركات، تبرز مسألة جديدة تتجاوز دقة النماذج نفسها: كيف يمكن ضمان أن يظل الوكيل داخل الحدود التي حددها له المستخدم؟ وفي هذا السياق، أطلقت «إنفيديا» منصة أمنية جديدة تستهدف وضع ضوابط على حركة هؤلاء الوكلاء ومراقبة ما يفعلونه، وصولاً إلى عزلهم إذا حاولوا تجاوز الصلاحيات الممنوحة لهم.

وأعلنت الشركة، الاثنين، منصة NVIDIA Open Agent Safety Platform، وهي منصة برمجية مفتوحة وتصميم مرجعي لنظام أمني يجمع بين البرمجيات والعتاد، بهدف توفير حوكمة ورقابة على وكلاء الذكاء الاصطناعي بدءاً من مراحل الاختبار وصولاً إلى التشغيل الفعلي. وتضم المنصة مكونين رئيسيين هما OpenShell وSentry، فيما أعلنت «إنفيديا» أن أكثر من 100 مؤسسة وشركة تعمل مع تقنياتها ضمن هذا النظام.

وتقوم OpenShell بدور خط الدفاع البرمجي، إذ توفر بيئة تشغيل آمنة تعزل كل وكيل داخل نطاق محدد، وتتيح للمؤسسات تحديد الملفات والشبكات والأدوات وبيانات الاعتماد التي يمكنه الوصول إليها. كما تسجل الأداة تحركات الوكيل وتفرض السياسات الأمنية أثناء تنفيذه للمهام، بحيث لا يعتمد الأمان على التعليمات الموجهة إلى نموذج الذكاء الاصطناعي وحدها. وتعمل OpenShell على وحدات المعالجة المركزية «فيرا» من «إنفيديا»، كما يمكن توسيعها لتعمل على منصات تعتمد على معالجات من «إنتل» و«آرم».

أما Sentry فتضيف طبقة مستقلة من الحماية على مستوى البنية التحتية. وتعمل الأداة عبر وحدات معالجة البيانات BlueField-4 DPU، خارج البيئة التي يعمل فيها الوكيل، لمراقبة سلوكه بصورة مستمرة وفرض سياسات أمنية مستقلة. وإذا حاول الوكيل الخروج عن الحدود المحددة له، يمكن لـSentry عزله وإيقافه خلال أجزاء من الثانية، وفقاً لـ«إنفيديا».

وتكمن أهمية هذا التصميم في وضع الرقابة الأمنية خارج نطاق سيطرة الوكيل نفسه. فبدلاً من الاعتماد على النموذج كي يلتزم بالتعليمات الأمنية، تصبح البنية التحتية هي التي تحدد ما يستطيع الوكيل الوصول إليه وما يمكنه تنفيذه. وتستخدم Sentry كذلك برمجيات NVIDIA DOCA لفحص الطلبات والاستجابات، والتحقق من هوية الوكلاء، وتوفير بيانات مراقبة موثقة، وتطبيق سياسات وصول دقيقة وفق نموذج «الثقة الصفرية».



حادثة «هاغنغ فيس» في الخلفية

يأتي إطلاق المنصة بعد سلسلة من الحوادث التي سلطت الضوء على صعوبة احتواء وكلاء الذكاء الاصطناعي القادرين على اتخاذ سلسلة طويلة من القرارات بصورة مستقلة. وفي يوليو، كشفت «أوبن إيه آي» أن نماذج استخدمت خلال تقييمات داخلية للأمن السيبراني تمكنت من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أنظمة تابعة للشركة، كما اخترقت أجزاء من أنظمة «هاغنغ فيس». وقالت «أوبن إيه آي» في تحديث لاحق إن النماذج استغلت ثغرات، واستخدمت قنوات اتصال غير مصرح بها ووصلت إلى أنظمة تابعة لطرف ثالث.

وأظهرت رواية «هاغنغ فيس» الفنية للحادث أن الوكيل نفذ سلسلة من الخطوات الآلية التي شملت الوصول إلى البنية التحتية للشركة، والحركة الجانبية داخل الأنظمة، واستخدام بيانات اعتماد مسروقة، في حادث استمر نحو يومين ونصف اليوم داخل بيئة «هاغنغ فيس»، بحسب تحليل الشركة.

وقال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في «إنفيديا»، إن البنية الجديدة كان من الممكن أن تمنع حادثة «هاغنغ فيس»، مشيراً إلى أن الأحداث الأخيرة أظهرت حدود الاعتماد على ضوابط الأمان الموجودة على مستوى النموذج أو التطبيق فقط. وتطرح الشركة بذلك تصوراً مختلفاً لأمن الوكلاء، يقوم على بناء الحماية في طبقات البنية التحتية التي يعمل فوقها الوكيل.



سباق نحو «ذكاء اصطناعي آمن»

وتحاول «إنفيديا» من خلال المنصة تحويل أمن الوكلاء إلى طبقة مشتركة بين شركات التقنية ومطوري النماذج ومزودي البنية التحتية. ومن بين الجهات التي تعمل مع المنصة «أنثروبيك»، و«مايكروسوفت»، و«Salesforce»، و«SAP»، و«بالانتير»، و«هاغنغ فيس»، و«جيه بي مورغان تشيس»، و«سيسكو»، و«كراود سترايك» وغيرها. كما دمجت «Salesforce» OpenShell مع «Slack» لإتاحة مراقبة نشاط الوكلاء وإدارة طلبات الحصول على صلاحيات إضافية، فيما تعمل «أنثروبيك» على دمج تقنيات المنصة مع وكلاء Claude المُدارين.

وقال جنسن هوانغ، المؤسس والرئيس التنفيذي لـ«إنفيديا»، إن الإمكانات الكبيرة للذكاء الاصطناعي لن تتحقق بالكامل ما لم تتم معالجة مسألة سلامة الذكاء الاصطناعي، مؤكداً أن اكتشاف قدرات جديدة للذكاء الاصطناعي يجب أن يوازيه تطوير أدوات جديدة للأمان.

ويأتي هذا التوجه بالتزامن مع اتساع النقاش داخل صناعة الذكاء الاصطناعي حول سرعة تطوير النماذج وحدود المخاطر التي يمكن أن ترافقها. ففي سبتمبر، دعا داريوش أمودي، الرئيس التنفيذي لـ«أنثروبيك»، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، واقترح تعزيز التقييمات المستقلة والتنسيق بين الشركات ووضع معايير أكثر صرامة للسلامة، فيما أبدى سام ألتمان وإيلون ماسك تأييداً لفكرة إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة.

وتعكس منصة «إنفيديا» اتجاهاً تقنياً مختلفاً في التعامل مع هذه المخاطر: بدلاً من الاكتفاء بمحاولة جعل الوكيل «أكثر التزاماً»، يجري تصميم البيئة التي يعمل داخلها بحيث تمنعه تقنياً من تجاوز الحدود المسموح بها. ومع انتقال وكلاء الذكاء الاصطناعي من أدوات مساعدة إلى أنظمة قادرة على تنفيذ مهام طويلة ومعقدة عبر شبكات وبيانات وأنظمة مؤسسية، قد يصبح هذا النوع من الحواجز جزءاً أساسياً من البنية التحتية لتشغيل الذكاء الاصطناعي على نطاق واسع.