دعا ساتيا ناديلا، الرئيس التنفيذي لشركة «مايكروسوفت»، إلى إعادة تقييم أسس الثقة في أنظمة الذكاء الاصطناعي المتقدمة، محذراً من منحها صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ الإجراءات المهمة من دون ضوابط مستقلة ورقابة بشرية فعالة.
وقال ناديلا، في منشور على منصة «إكس»: إن التطور المتسارع للذكاء الاصطناعي يستدعي التريث وإعادة النظر في آليات ضمان موثوقية النماذج، موضحاً أن الأنظمة البرمجية التقليدية تتيح تتبع سلوكها إلى تعليمات محددة في الشيفرة، بينما يصعب في نماذج الذكاء الاصطناعي ربط المخرجات ببيانات التدريب أو الإعدادات التي أنتجتها بصورة مباشرة.
وأكد أن المسؤولية عن سلوك هذه الأنظمة لا يمكن أن تقتصر على مطوري النماذج، كما لا ينبغي التعامل معها باعتبارها «صناديق سوداء» تُقبل نتائجها أو تُرفض من دون فهم كافٍ لكيفية عملها والضوابط التي تحكمها.
وشدد رئيس «مايكروسوفت» على ضرورة الفصل بين توفير قدرات الذكاء الاصطناعي ومنحها سلطة اتخاذ القرار، عبر وضع طبقات مستقلة من الرقابة والإجراءات الأمنية التي تحدد ما يمكن للنماذج الوصول إليه وما يُسمح لها بتنفيذه. وأشار إلى أهمية الاستفادة من ممارسات الأمن المؤسسي، بما يشمل تحديد الهوية، وتقييد الصلاحيات، وتسجيل الأنشطة، ووضع حدود واضحة لاحتواء أي إخفاق محتمل.
وحذر ناديلا من أن الاعتماد على شفافية آليات استدلال النماذج وحدها لا يكفي لضمان موثوقيتها، نظراً إلى صعوبة تفسير بعض المخرجات والتحقق منها بصورة مستقلة. كما أن استخدام نموذج ذكاء اصطناعي لمراجعة نموذج آخر قد ينشئ طبقات إضافية من الغموض إذا ظلت آليات التقييم والمراقبة نفسها غير شفافة.
ودعا إلى اعتماد اختبارات مستمرة للأنظمة تشمل محاكاة حالات الفشل والهجمات والتغيرات في السلوك، مع تسجيل الإجراءات المهمة في سجلات موثوقة يمكن للبشر مراجعتها، وإبقاء صلاحيات الوصول والتنفيذ والتدقيق مستقلة عن النموذج نفسه.
كما طالب بإتاحة القدرة على إيقاف الأنظمة أو تعطيلها أمام أشخاص مخولين، والإفصاح السريع عن الحوادث التقنية ومشاركة أسباب الإخفاق والضوابط التي لم تنجح، بما يساعد على منع تكرار الأخطاء وتعزيز معايير السلامة على مستوى القطاع.
ولخص ناديلا رؤيته بالقول: إن نظام الذكاء الفائق الأكثر موثوقية ليس بالضرورة النظام الذي يتيح أكبر قدر من الثقة بالنموذج، بل ذلك الذي يمكن تشغيله بأمان حتى مع الحد الأدنى من الاعتماد عليه، بفضل الضوابط المستقلة وآليات التحقق والمساءلة.
وتأتي هذه الدعوة وسط تصاعد النقاش بشأن مخاطر النماذج المتقدمة وقدرتها على تنفيذ مهام معقدة والوصول إلى الأنظمة الرقمية. وزادت المخاوف بعد تقارير عن سلوكيات غير مقصودة لوكلاء ذكاء اصطناعي خلال الاختبارات، ما أعاد التركيز على مدى قدرتهم على الالتزام بالقيود الموضوعة لهم.
وتتجه النقاشات التنظيمية والتقنية إلى تعزيز الاختبارات المستقلة، وتطوير آليات للتدخل عند ظهور مخاطر، وضمان بقاء القرارات الحساسة والصلاحيات الحرجة خاضعة لرقابة بشرية فعالة.
وتعكس مواقف ناديلا تحولاً في النقاش حول الذكاء الاصطناعي من التركيز على سرعة التطوير والقدرات إلى كيفية إدارة هذه القدرات بأمان، بحيث لا يعتمد نجاح الأنظمة على دقة النموذج وحدها، بل أيضاً على جودة الحوكمة والأمن والرقابة المحيطة به.