أثارت تحركات غير متوقعة نفذتها وكلاء ذكاء اصطناعي تابعة لـOpenAI داخل عدد من المواقع الحكومية الأميركية تساؤلات جديدة حول حدود استقلالية أنظمة الذكاء الاصطناعي وقدرة مطوريها على التحكم الكامل في تصرفاتها.
وكشفت OpenAI أن أنظمتها القائمة على وكلاء الذكاء الاصطناعي تفاعلت بطرق غير مقصودة مع مواقع حكومية أميركية، من بينها مواقع مكتب الإحصاء الأميركي، وهيئة الأوراق المالية والبورصات (SEC)، ووزارة التعليم، وذلك خلال عمليات تدريب واختبار للنماذج.
وتواصل الشركة التحقيق في كيفية حدوث هذه التصرفات ولماذا اتخذت الأنظمة تلك المسارات.
تختلف الوقائع من موقع إلى آخر، ولا تشير المعلومات المتاحة إلى عملية اختراق واسعة للأنظمة الحكومية.
ففي حالة مكتب الإحصاء الأميركي، تمكنت الوكلاء من الوصول إلى بيانات عامة باستخدام مفاتيح مخصصة لأدوات المطورين عثرت عليها عبر الإنترنت، فيما أكدت OpenAI أن البيانات نفسها كانت متاحة للعامة، ولم تجد دليلًا على الوصول إلى حسابات أو أنظمة حساسة.
أما بالنسبة إلى هيئة الأوراق المالية والبورصات الأميركية، فقد تفاعلت الأنظمة مع مواقع SEC gov وInvestor gov ووصلت إلى معلومات متاحة للعامة، بينما قالت OpenAI إنها لم تجد دليلًا على استخدام بيانات اعتماد خاصة أو الوصول إلى معلومات غير عامة أو إجراء تغييرات في أنظمة الهيئة.
وفي واقعة منفصلة، رصد باحثون محاولة فاشلة من وكلاء مرتبطة بـOpenAI للوصول إلى موقع تابع لوزارة التعليم الأميركية بهدف الحصول على بيانات مرتبطة بمكتب الحقوق المدنية.
ولم تنجح المحاولة، كما لم تجد الوزارة دليلًا على تأثر موقعها أو قواعد بياناتها.
وتصف OpenAI هذه الوقائع باعتبارها أمثلة على ما تسميه بعدم التوافق، أي تصرف الأنظمة بطريقة تتجاوز ما كان متوقعًا منها أو تستخدم أساليب لم تكن مقصودة ضمن المهمة الأصلية.
وتكتسب هذه الحوادث أهمية خاصة لأن وكلاء الذكاء الاصطناعي يختلفون عن روبوتات المحادثة التقليدية؛ إذ يمكن منحهم القدرة على البحث عبر الإنترنت، استخدام الأدوات، تنفيذ خطوات متعددة واتخاذ قرارات متتابعة لتحقيق هدف محدد.
وهذا يعني أن السؤال لم يعد يتعلق فقط بما إذا كان النموذج يستطيع الإجابة عن سؤال، وإنما بما يمكن أن يفعله عندما يُمنح أدوات وقدرة أكبر على تنفيذ المهام بصورة شبه مستقلة.
لماذا أثارت الواقعة القلق؟
لا تكمن أهمية الحوادث المعلنة في طبيعة البيانات التي تم الوصول إليها فقط، إذ أكدت الجهات المعنية عدم وجود دليل على سرقة معلومات حكومية غير عامة، وإنما في كيفية تصرف الوكلاء أثناء تنفيذ مهامهم.
فالقدرة على اكتشاف طرق بديلة للوصول إلى المعلومات أو استخدام مفاتيح تطوير متاحة على الإنترنت تثير تساؤلات حول ما إذا كانت أنظمة الذكاء الاصطناعي المستقلة قد تتخذ أحيانًا مسارات لم يتوقعها مطوروها.
وتأتي هذه الوقائع ضمن سلسلة من الحوادث التي دفعت شركات ومختبرات الذكاء الاصطناعي إلى إعادة النظر في آليات السلامة والرقابة على الأنظمة القادرة على استخدام الأدوات وتنفيذ المهام بصورة مستقلة.
اهتمام واسع
جاء الكشف عن هذه الوقائع بعد حادثة أخرى أثارت اهتمامًا واسعًا، عندما تورطت أنظمة مرتبطة بـOpenAI في حادث أمني يتعلق بمنصة Hugging Face خلال يوليو، وهو ما زاد من التدقيق في كيفية تصرف وكلاء الذكاء الاصطناعي عند منحهم قدرات واسعة للوصول إلى الإنترنت والأنظمة الخارجية.
كما كشفت OpenAI عن وقائع أخرى تتعلق بتصرفات غير متوقعة لأنظمتها، ما دفعها إلى إجراء مراجعة أوسع لسلوك النماذج أثناء التدريب والاختبار.
اختراق
رغم انتشار عبارات مثل "الذكاء الاصطناعي خرج عن السيطرة"، و«اختراق الحكومة»، فإن الوقائع المتاحة لا تدعم وصف جميع هذه الحوادث بأنها اختراقات ناجحة لأنظمة حكومية.
فالبيانات التي تم الوصول إليها من مواقع مكتب الإحصاء وSEC كانت عامة، ولم تُسجل وفق ما أعلنته الجهات المعنية وOpenAI أدلة على الوصول إلى معلومات غير عامة أو إحداث تغييرات في أنظمة SEC، بينما فشلت محاولة الوصول إلى موقع وزارة التعليم.
لكن القضية الأوسع والتي تظل قائمة هي إلى أي مدى يمكن التحكم في أنظمة الذكاء الاصطناعي عندما تصبح قادرة على تنفيذ سلسلة طويلة من المهام واتخاذ قرارات أثناء تنفيذها؟.
تنفيذ المهام
وهذا السؤال قد يصبح أكثر إلحاحًا مع انتقال الذكاء الاصطناعي من مجرد تقديم الإجابات إلى تنفيذ المهام نيابة عن المستخدمين بصورة مستقلة، وهو تحول يجعل اختبارات السلامة والقيود التقنية جزءًا أساسيًا من تطوير هذه الأنظمة.