نموذج «ميثوس» من «أنثروبيك» قام في بعض الأحيان بإجراءات متهورة ثم أخفى آثاره
تبدو إنجازات نموذج الذكاء الاصطناعي الجديد والقوي من «أنثروبيك»، «كلود ميثوس»، أشبه بقصة فيلم: نظام حاسوبي فائق الذكاء محبوس في «قفص» إلكتروني، يتمكن من اختراقه والاتصال بالإنترنت. وللتوضيح، لم يفعل «ميثوس» ذلك تلقائياً، بل لأن مطوريه تحدوه كونه اختباراً، ولم يكتفِ «ميثوس» باجتياز التحدي بسهولة، بل راسل باحثاً في «أنثروبيك» لإبلاغه، ثم نشر التفاصيل على الإنترنت دون أي طلب منه للتباهي بما قام به.
وبعد أن أظهر أيضاً قدرات خارقة في اكتشاف واستغلال الثغرات الأمنية في البرمجيات رأت أنثروبيك أن «ميثوس» ينطوي على مخاطر كبيرة جداً، ولذلك لا يمكن إطلاقه للجمهور، وهي تقيد الوصول إليه حالياً لشركات مختارة في مجالات التكنولوجيا والأمن السيبراني والقطاع المالي. ويرى البعض أن «أنثروبيك» تقوم بذلك في إطار التسويق أو العلاقات العامة الذكية.
ومن جانبها أعلنت شركة «أوبن أيه آي» المنافسة هذا الأسبوع أنها ستطرح نموذجها الجديد الخاص بالأمن السيبراني للمستخدمين المعتمدين فقط، ومع ذلك لا ينبغي تجاهل المخاطر التي كشفت عنها هذه الحادثة وتداعياتها.
وتؤكد شركة «أنثروبيك» أن نموذج «ميثوس» يحقق نتائج عالية في معايير السلامة القياسية لديها، إلا أنه خلال عملية الهروب من بيئة الاختبار، وأثناء حل مهام معقدة أخرى وجدت الشركة أن «ميثوس» اتخذ في بعض الأحيان «إجراءات متهورة ومفرطة»، ثم أخفى آثاره.
ويكمن القلق الأكبر في قدرة «ميثوس» على اكتشاف ثغرات أمنية غير معروفة سابقاً «في جميع أنظمة التشغيل الرئيسية وجميع متصفحات الويب الرئيسية»، بما في ذلك ثغرة عمرها 27 عاماً في نظام «أوبن بي إس دي»، وهو نظام مفتوح المصدر، وقد حذر معهد أمن الذكاء الاصطناعي في المملكة المتحدة هذا الأسبوع من أن النموذج قادر على تنفيذ هجمات سيبرانية متقدمة ومتعددة المراحل بشكل مستقل، وهي هجمات تستغرق أياماً من المتخصصين البشريين، وكما تشير «أنثروبيك» فإن هذه القدرات، إذا وقعت في الأيدي الخطأ، قد تشكل مخاطر اقتصادية وأمنية عامة ووطنية. واستدعى مسؤولون في الولايات المتحدة والمملكة المتحدة وكندا رؤساء البنوك لمناقشة المخاطر. كذلك كانت تهديدات الذكاء الاصطناعي على النظام المصرفي العالمي محور نقاش في اجتماعات صندوق النقد الدولي والبنك الدولي خلال الأيام القليلة الماضية. ويهدف مشروع «غلاس وينغ»، الذي أطلقته شركة أنثروبيك لشركات مثل أمازون وآبل ومايكروسوفت، إضافة إلى جيه بي مورغان تشيس، إلى تأمين الأنظمة والبنية التحتية الحيوية ومعالجة الثغرات الأمنية قبل أن يتمكن المخترقون من الوصول إليها. ويخدم هذا النهج صورة أنثروبيك التي تُعطي الأولوية للسلامة، خصوصاً في ظل خلافها مع البنتاغون لرفضها السماح له باستخدام نماذجها في الأسلحة ذاتية التشغيل أو المراقبة الداخلية. وقد تكون أنثروبيك تسعى أيضاً لكسب الوقت نظراً لافتقارها إلى القدرة الحاسوبية الكافية لدعم الإطلاق الكامل لهذا النموذج المتطور، ومع ذلك حتى لو كان مشروع ميثوس مبالغاً في تقديره فإن القدرات التي يقال إنه يمتلكها ستنتشر قريباً.
ويسلط ذلك الضوء أيضاً على حقيقة أن إدارة ترامب تقاوم أي تنظيم فيدرالي حقيقي للذكاء الاصطناعي، لذا يقع على عاتق الجهات الفاعلة المسؤولة في القطاع الخاص التعاون وبذل قصارى جهدها. وفي الوقت الذي يصل فيه الذكاء الاصطناعي إلى نقطة يمكنه فيها تدمير البنية التحتية الوطنية الحيوية، أو ما هو أسوأ، فمن المثير للدهشة عدم وجود إجراءات حكومية محددة للكشف عن المخاطر، وتعزيز الدفاعات. ولا يُمكن أن يكون تشديد التنظيم رد فعل متسرعاً على كل قضية معقدة تثيرها الصناعة، فالذكاء الاصطناعي، بطبيعته، يتطلب رقابة فائقة الذكاء؛ وقد تُيق القواعد الصارمة الابتكار، ومع ذلك ففي مواجهة مثل هذه التكنولوجيا ذات الأهمية البالغة فإن الدولة التي تقود العالم في مجال الذكاء الاصطناعي تثق بدرجة مثيرة للقلق في استعداد وقدرة المبدعين على ضبط أنفسهم، ومراقبة ما يقومون به.