القدرات الهجومية تتطور أسرع من أنظمة الدفاع.. وتوقعات بانهيار شركات
اختراق تايوان يكشف مرحلة جديدة من الهجمات المدعومة بالذكاء الاصطناعي
«أوبن إيه آي»: اختراق أنظمة «هاجينج فيس» بدون تدخل بشري «لحظة فاصلة»
مجموعة «دريم»: كل حكومة في أنحاء العالم تتعرض لهجوم سيبراني دائم
بدأ الذكاء الاصطناعي يختبر حدوداً جديدة تتجاوز ما صُمم لأجله، بعدما كشفت تجارب أجرتها مختبرات كبرى عن قدرة وكلائه على تنفيذ هجمات سيبرانية معقدة، والتعاون فيما بينهم، بل حتى الوصول إلى أنظمة خارج بيئات الاختبار. وما يثير القلق هذه المرة ليس استخدام البشر للذكاء الاصطناعي كسلاح، وإنما قدرة الأنظمة نفسها على اتخاذ خطوات متتابعة لتحقيق أهدافها، بما في ذلك اكتشاف الثغرات واستغلالها دون تدخل بشري مباشر بحسب تقرير موسع لـ«فايننشال تايمز».
وكشفت تجربة أجرتها «أوبن إيه آي» أن وكلاء الذكاء الاصطناعي تمكنوا من تجاوز قيود بيئة اختبار مغلقة والوصول إلى الإنترنت ثم اختراق منصة «هاجينج فيس»، فيما ظهرت لاحقاً حالات مماثلة لدى شركات ومؤسسات أخرى. وتكشف هذه الوقائع عن تحول محتمل في طبيعة المخاطر السيبرانية، مع انتقال الذكاء الاصطناعي من أداة تساعد المدافعين والمهاجمين إلى طرف قادر على تنفيذ عمليات هجومية متعددة الخطوات بنفسه.
تصميم متعمد
في أوائل مايو، بدأت شركة «أوبن إيه آي»، مطورة لـ«تشات جي بي تي»، تجري تجربة داخل مختبراتها، يمكن أن تضع صناعة التكنولوجيا على مسار جديد، وهو مسار يثير القلق بدرجة أكبر لأنه لم يكن نتيجة حادث عارض، بل نتيجة تصميم متعمد.
قد تبدو التجربة، للوهلة الأولى، اختباراً أمنياً اعتيادياً، إذ أُسند إلى قراصنة داخل الشركة تحدٍّ معقد في الأمن السيبراني لاختبار حدود قدراتهم. وباستخدام أساليب مبتكرة، تمكنوا من التحايل على القيود المفروضة عليهم والتعاون فيما بينهم لحل المشكلة على مدى عدة أيام.
لكن هؤلاء «القراصنة» كانوا وكلاء ذكاء اصطناعي، أي برمجيات قادرة على تنفيذ مهام معرفية متعددة الخطوات دون تدخل بشري. وكانت «أوبن إيه آي» طورتهم باستخدام مزيج من النماذج، بينها نموذج قوي جديد لم يطرح بعد. وقد أثار نجاحهم في المهمة الموكلة إليهم أصداء واسعة حول العالم.
في الشهر الماضي، تمكن هؤلاء الوكلاء من الخروج من بيئة الاختبار غير متصلة بالإنترنت، ثم التجول في الشبكة العنكبوتية، ثم اختراق أنظمة منصة البرمجيات الشهيرة «هاجينج فيس»، دون علم أي مشغل بشري أو إذنه.
كما أظهروا قدرة جديدة تماماً، وهي التواصل والتعاون على إنجاز مهمة مشتركة. فقد ترك سرب وكلاء الذكاء الاصطناعي رسائل لبعضهم على لوحة رسائل داخلية أنشؤوها، وتبادلوا معلومات عن الثغرات البرمجية لمساعدتهم في تنسيق عملية الهروب.
وعندما كشفت تفاصيل عملية الاختراق، أثارت عاصفة من الجدل بين خبراء الأمن السيبراني والذكاء الاصطناعي، ووصف باحثون في «أوبن إيه آي» الواقعة بأنها «لحظة فاصلة» في الصناعة. كما أدى الكشف إلى سلسلة من الاكتشافات المماثلة.
فقد عثرت شركات الذكاء الاصطناعي والتكنولوجيا الأمريكية العملاقة «أنثروبيك» و«ميتا»، والشركة الصينية الناشئة «مونشوت»، وكذلك معهد أمن الذكاء الاصطناعي البريطاني، الذي يقيم القدرات السيبرانية للنماذج الجديدة، لاحقاً على أدلة تثبت أن وكلاء الذكاء الاصطناعي اخترقوا أنظمة أطراف ثالثة لم تكن على علم بما يحدث أثناء الاختبارات.
ويقول أكثر من 6 خبراء تحدثت إليهم «فايننشال تايمز» إن هذه الاختراقات تشير إلى نقطة تحول في الأمن السيبراني العالمي. إذ أصبح وكلاء الذكاء الاصطناعي قادرين على الجمع بين مهارات مختلفة ومعقدة لشن هجمات على أهداف حقيقية، دون سيطرة أو مساعدة خارجية.
وقد فاجأت الاستراتيجيات المتطورة التي استخدمها الوكلاء لتحقيق أهدافهم، بما في ذلك التمويه والسرقة، حتى أولئك الذين يتابعون تطور نماذج الذكاء الاصطناعي عن كثب.
لكن الباحثين يؤكدون أن النماذج لا تتصرف على نحو يخالف تكوينها، بل إن المهام التي تتفوق فيها الآن هي تحديد تلك التي صممت لأدائها.
بل إن بعضهم يرى أن وصف هذه الوكلاء بأنهم «انفلتوا من عقالهم» ينطوي على خطأ في تصنيف طبيعة المشكلة، ما يجعل تحسين إجراءات الحماية أكثر أهمية.
وقال بويان ميلانوف، كبير الباحثين في «معهد إيه آي ناو» المستقل في نيويورك، الذي يدرس المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي: «لقد وصلنا إلى القدرات الهجومية التي نمتلكها اليوم بشكل متعمد».
وأضاف: «كانت شركات الذكاء الاصطناعي تجمع بيانات التدريب، وتدرب النماذج، وتصقل قدراتها السيبرانية بنشاط لسنوات».
ويتم تصميم نماذج الذكاء الاصطناعي الحديثة لمحاولة استخدام كل الوسائل الممكنة لتحقيق هدف ما دون تلقي تعليمات صريحة، ما يجعلها غير قابلة للتنبؤ بطبيعتها. وإذا نجحت، تحصل على مكافأة، في إطار عملية تدريب تعرف باسم «التعلم المعزز».
وفي نظام حاسوبي يفتقر إلى فهم النوايا والأخلاق البشرية، وهي ظاهرة تصفها صناعة الذكاء الاصطناعي بـ«عدم المواءمة»، تصبح الحدود الفاصلة بين مدافع قوي في مجال الأمن السيبراني وقرصان خطير أكثر ضبابية.
لكن أياً كان الوصف الذي نطلقه على هذا النشاط، فإن تحركات الذكاء الاصطناعي تلك تتسبب بالفعل في عواقب ضارة للشركات عبر قطاعات ومناطق مختلفة في أنحاء العالم.
وكتب غريغ بروكمان، رئيس «أوبن إيه آي»، في تدوينة نشرت الاثنين: «أظهرت واقعة هاجينج فيس أننا قللنا من تقدير القدرات السيبرانية الواقعية لنماذج الذكاء الاصطناعي لدينا».
وأضاف: «نعمل على تعزيز متطلبات السلامة لدينا وفقاً لذلك، ما يزيد بدوره من إلحاح أبحاث السلامة الحالية وأعمالنا الداخلية في مجال الأمن».
لكن مع تسارع شركات الذكاء الاصطناعي في تطوير البرمجيات ضمن سباق للوصول إلى الذكاء الاصطناعي العام، أي آلة فائقة الذكاء تتفوق على البشر في جميع المهام المعرفية، تزداد مخاطر الهجمات السيبرانية الضارة، في وقت لا تلوح فيه في الأفق سوى إجراءات محدودة للحد من هذا التهديد.
وجهان لعملة واحدة
ارتفعت قدرة الذكاء الاصطناعي على كتابة الشيفرات البرمجية بصورة هائلة مع تطور قدرته على الاستدلال وحل المشكلات. وأفضت هذه البراعة في البرمجة لاكتساب مهارات إضافية، بينها تحديد الأخطاء البرمجية وتعلم كيفية إصلاحها، وكذلك كيفية استغلالها.
وقالت دون سونج، أستاذة علوم الحاسوب في جامعة كاليفورنيا في بيركلي، التي تعمل رئيسة لأبحاث الذكاء الاصطناعي في مختبر الذكاء الفائق التابع لشركة «ميتا»: «البرمجة والأمن السيبراني وجهان لعملة واحدة؛ فكلما زادت قدرات البرمجة، زادت القدرات السيبرانية أيضاً».
وأضافت: «لقد ازدادت قدرات النماذج بصورة هائلة خلال العام الماضي... وأصبحت قادرة تلقائياً على توليد عمليات استغلال تتجاوز آليات الدفاع الأمني التقليدية». وتابعت، بصفتها الأكاديمية: «لم يتوقع الناس أن نصل إلى هذه المرحلة بهذه السرعة».
اكتشاف هدف عرضة للاختراق
وتقول سونج، التي شاركت في تصميم نظام «إكسبلويت جيم» لقياس الأداء، والذي تستخدمه «أوبن إيه آي» و«أنثروبيك» و«جوجل» لاختبار أنظمة الذكاء الاصطناعي لديها، إن لهذه الأنظمة مهاجمين بارعين على نحو خاص.
فاكتشاف هدف عرضة للاختراق داخل الشيفرة البرمجية هو مهمة محددة وقابلة للتحقق، ولها معايير نجاح واضحة، وهي أمور تتلاءم معها نماذج الذكاء الاصطناعي بدرجة أكبر من أعمال الدفاع الأكثر ضبابية.
أما الدفاع السيبراني، وهو مجال أبطأ حركة وأكثر تعقيداً، فقد يستغرق وقتاً مؤلماً للحاق بالركب. على سبيل المثال، قد يتطلب طرح تصحيح أمني جديد على شبكة تكنولوجيا معلومات بأكملها نشره على آلاف أجهزة الكمبيوتر وأنظمة التشغيل داخل الشركة.
وبعد عملية الاختراق التي وقعت الشهر الماضي، قالت «أوبن إيه آي» إنها بدأت تدريب نماذجها على كتابة «شيفرات آمنة على نحو يفوق القدرات البشرية».
فوضى محتملة في أنظمة تكنولوجيا
خبراء الأمن يتوقعون، على المدى القصير، أن تؤدي أنظمة الذكاء الاصطناعي إلى توسيع نطاق الهجمات السيبرانية وسرعتها، بما يهدد بإحداث فوضى محتملة في أنظمة تكنولوجيا المعلومات حول العالم إلى أن يتم نشر التصحيحات اللازمة.
وقال جيفري لاديش، الباحث السابق في «أنثروبيك»، الذي يشغل الآن منصب مدير «باليسايد ريسيرش»، التي تبحث في القدرات الهجومية السيبرانية للذكاء الاصطناعي: «إذا افترضنا استمرار الاتجاه الحالي في المستقبل، فإن العاملين داخل المختبرات يتوقعون بضع سنوات ستكون فيها الأمور شديدة الاضطراب، وستتعرض أشياء للاختراق، وستنهار شركات كثيرة، وسيكون هناك قدر كبير من المعاناة المحتملة».
ويرى لاديش أن الأنظمة ستصبح في نهاية المطاف أكثر أمناً مع تكيف الشركات والحكومات مع هجمات الذكاء الاصطناعي على شبكاتها.
لكن في الوقت الراهن، يقول: «الخطة هي أننا سنضطر إلى الوثوق بوكلاء الذكاء الاصطناعي.. وأن نأمل في أن يكونوا متوافقين مع ما نريده».
اختراق هدف محتمل
وحتى الآن، لم تكن هجمات الوكلاء مدمرة، لكن باحثين مثل ميلانوف يرون أن الخطر يتزايد مع تشغيل وكلاء الذكاء الاصطناعي بالتوازي، بحيث يركز كل منهم على اختراق هدف محتمل مختلف.
وبالفعل، شهد الأسبوع الماضي الكشف عن أول حالة هجوم لوكلاء ذكاء اصطناعي على دولة. فقد استهدف قراصنة مرتبطون بالصين الحكومة التايوانية من خلال نشر ما يصل إلى ثمانية وكلاء ذكاء اصطناعي مستقلين في الوقت نفسه.
وتمكنوا من رسم خريطة لأنظمة الحكومة، واختراق حسابات مستخدمين حكوميين، واستخراج سجلات أكثر من 2500 سجل موظف، قبل توسيع الهجوم ليشمل شركات الطاقة وهيئة السلامة النووية في تايوان.
ووفقاً لأحد المسؤولين التنفيذيين في مجموعة «دريم»، التي اكتشفت الاختراق في تايوان، فإن ظهور أدوات الذكاء الاصطناعي يعني أن «كل حكومة في أنحاء العالم» يجب أن تفترض الآن أنها تتعرض لهجوم سيبراني دائم.
وبالنسبة إلى العاملين داخل شركات الذكاء الاصطناعي، فإن الأزمة كانت تلوح في الأفق منذ أشهر.
ويقول لاديش إن موظفين حاليين في واحد من أكبر مختبرات الذكاء الاصطناعي حذروا، خلال محادثات خاصة قبل عام، من هذه القدرات الناشئة. وأضاف: «قالوا إنه خلال عام ستكون لدينا نماذج بارعة للغاية في العثور على ثغرات جديدة، وستدمر قدراً هائلاً من البنية التحتية.. وكانوا يسابقون الزمن للاستعداد لذلك».
وقد جعلت الزيادة الحادة في قدرات الذكاء الاصطناعي هذا العام، والتي سمحت للوكلاء باختراق أنظمة خارجية خلال أيام، الأمور أكثر صعوبة. وحتى اختبار النماذج في ظل ظروف تجريبية خاضعة للمراقبة أصبح الآن «أكثر تعقيداً بكثير مما كان عليه قبل عام»، وفقاً لشخص مطلع على عمليات الاختراق الأخيرة.
ويقول لاديش: «لسنوات، كان الناس يشعرون بالقلق من أن يستخدم المجرمون الذكاء الاصطناعي كسلاح لشن هجمات سيبرانية، لكنني لم أتوقع أن تكون لحظة الاستيقاظ الكبرى هي أن الوكلاء أنفسهم سيخرجون من بيئة الاختبار أثناء التجارب ويخترقون شركات أخرى».
وكان اختراق وكلاء «أوبن إيه آي» لـ«هاجينج فيس» حالة غير معتادة، إذ تمكنوا من الخروج من بيئة اختبار مقيدة عبر استغلال ثغرات برمجية.
أما في معظم الحوادث الأخرى التي وقعت أخيراً، فقد أجرت شركة «إيرريجولار»، المختصة في الأمن السيبراني للذكاء الاصطناعي، اختبارات تقييم لصالح «أنثروبيك» و«ميتا» و«أوبن إيه آي»، لكنها منحت النماذج عن طريق الخطأ إمكانية الوصول إلى الإنترنت، في وقت كان يفترض أن تكون فيه غير متصلة به.
وكان ذلك نتيجة خطأ بشري أو «سوء تفاهم» بين «إيرريجولار» ومختبرات الذكاء الاصطناعي، وفقاً لشخص مطلع على الوضع.
وقالت «أنثروبيك» إن اختبارات القدرات تتم، لأسباب واضحة، لكنها أقرت بأن هذه الطريقة «آمنة فقط إذا كانت عملية التقييم محصورة وتم احتواؤها على نحو مناسب».
كما تعمد معهد أمن الذكاء الاصطناعي البريطاني توفير إمكانية الوصول إلى الإنترنت أثناء اختباره لنموذجي «مايثوس 5» من «أنثروبيك» و«جي بي تي 5.6 سول» من «أوبن إيه آي».
وفي أحد الاختبارات، حاول وكيل «مايثوس» إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على منصة «غيت هاب» الشهيرة للمطورين، وذلك عبر إنشاء هويات مزيفة على الإنترنت واستخدامها للضغط على الشخص المسؤول عن المشروع للموافقة على الشيفرة.
وقد دفعت هذه التصرفات غير المسبوقة الصناعة بأكملها إلى إعادة التفكير في كيفية تقييم نماذج الذكاء الاصطناعي ومراقبتها وتدقيقها.
وأوقفت «إيرريجولار» ومعهد أمن الذكاء الاصطناعي البريطاني الآن إمكانية وصول النماذج إلى الإنترنت في بيئات الاختبار الخاصة بهما، فيما بدأ المعهد مراجعة داخلية لأساليب الاختبار. وفي أعقاب اختراق «هاجينج فيس»، تجري «أوبن إيه آي» أيضاً ما تصفه بأنه «مراجعة شاملة بالتعاون مع مستشارين خارجيين»، متعهدة بإعلان ما تعلمته «خلال الأسابيع المقبلة».
وقال الشخص المطلع على حوادث «إيرريجولار»: كلما كان الإعداد أكثر تحفظاً، كان من الأسهل «عزل هذه الاختبارات عن العالم الخارجي». لكنه أضاف: إذا فرضنا قيوداً مفرطة، فلن نكتشف معظم المشكلات إلا بعد نشر النماذج في العالم الحقيقي. وأضاف: وهذا عالم أسوأ بالنسبة إليك.
الحد من المخاطر
في الشهر الماضي، حذر أكثر من 1300 خبير من مختلف أنحاء قطاع التكنولوجيا من مخاطر تطوير الذكاء الاصطناعي من دون قيود. ودعوا إلى جهد دولي لإبطاء إنتاج نماذج جديدة ومنح الجهات التنظيمية الوقت لوضع معايير وفحوص للسلامة.
وفي رسالة مفتوحة، حمل باحثون، من بينهم داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، وشين ليغ، كبير علماء الذكاء الاصطناعي العام في «جوجل ديب مايند»، ضغوط المنافسة التجارية والجيوسياسية مسؤولية الوتيرة المحمومة لتطوير الذكاء الاصطناعي المتقدم.
وقال أحد الموقعين، وهو موظف في «جوجل ديب مايند»، إنه شارك في التوقيع بسبب «القلق الحقيقي» الذي أثارته عملية اختراق نماذج «أوبن إيه آي» لمنصة «هاجينج فيس»، مضيفاً أن الشركة المطورة لـ«تشات جي بي تي» ليست أكثر إهمالاً من كثير من مختبرات الذكاء الاصطناعي الرائدة الأخرى.
ويرغب بعض السياسيين في اتخاذ خطوات أكثر جذرية لمنع مزيد من المخاطر. فقد دعا السيناتور الأمريكي بيرني ساندرز إلى وقف مؤقت لبناء أنظمة ذكاء اصطناعي أكثر قوة «من أجل مصلحة البشرية».
لكن مثل هذا الإجراء سيتطلب موافقة الولايات المتحدة والصين، القوتين العظميين في مجال الذكاء الاصطناعي، إلى جانب جميع الدول الأخرى التي يجري فيها تطوير هذه التكنولوجيا، وهو اتفاق يرى كثيرون أنه غير واقعي.
لكن في غياب مثل هذا التوقف، أو وجود مفتاح إيقاف شامل لهذه التكنولوجيا، يرى بعض الخبراء أن الخطوة الأولى تتمثل في تحميل مزودي الذكاء الاصطناعي المسؤولية عن سلوك أنظمتهم، تماماً كما يتحمل المصنعون الآخرون مسؤولية سلامة منتجاتهم.
وقال تورستن هولتس، الذي شارك مع سونغ في تصميم نظام «إكسبلويت جيم» الذي تستخدمه كل مختبرات الذكاء الاصطناعي الكبرى: «أجد أنه من غير المعقول إلى حد كبير أن أوبن إيه آي لم تلاحظ لعدة أيام أن نموذجها كان يهاجم موقعاً إلكترونياً آخر».
وأضاف: «نحن بحاجة إلى آلية لا تعتمد فيها عملية الكشف عن «هجمات الذكاء الاصطناعي» ببساطة على الشفافية الطوعية من جانب المختبرات».
وأشار هولتس، وهو المدير العلمي في معهد ماكس بلانك للأمن والخصوصية في ألمانيا، إلى قطاعي الطيران والرعاية الصحية، حيث تتولى جهات مستقلة جمع تقارير السلامة السرية وإخضاعها لتحقيقات شاملة.
وقال: «نحتاج إلى وسائل تتيح للجامعات ومعاهد السلامة العامة وجهات التقييم المستقلة الوصول إلى النماذج لاختبارها في ظروف خاضعة للرقابة».
وترى سونغ أن أنظمة الذكاء الاصطناعي تحتاج إلى التدريب على مواءمة سلوكها بصورة أفضل مع التوقعات البشرية.
وأضافت: «نحتاج إلى أن نوضح لها أن هناك طرقاً جيدة لتحقيق الهدف، وطرقاً غير مقبولة... مثل استغلال منصات تابعة لأطراف ثالثة واختراقها».
ويعتمد الكثير من الأمر على دور الحكومات، وهو موضوع مثير للجدل بشدة في صناعة أصبحت هي ساحة المنافسة الكبرى للقوة في عصرنا بين الولايات المتحدة والصين، حيث يخوض الطرفان سباقاً لتحقيق التفوق في الذكاء الاصطناعي.
ويرى كثير من العاملين في الصناعة أن التنظيم شكل من أشكال الحمائية. وقد أشارت إدارة الرئيس الأمريكي دونالد ترامب إلى أنها ستعارض فرض تنظيم أمريكي صارم على القطاع. وبدلاً من ذلك، أنشأت نظاماً طوعياً لاختبار نماذج الذكاء الاصطناعي الجديدة لمدة تصل إلى 30 يوماً قبل طرحها للجمهور، في نظام مماثل للنظام المعمول به في المملكة المتحدة.
لكن هايدي خلاف، وهي مهندسة بارزة في سلامة الذكاء الاصطناعي، صممت اختبارات الأمن السيبراني لمعهد سلامة الذكاء الاصطناعي البريطاني، تقول إن عمليات الخروج الأخيرة من بيئات الاختبار تكشف حدود النظام الحالي.
وقالت: «هذا دليل واضح على أن عمليات التدقيق الطوعية التي تجريها مختبرات الذكاء الاصطناعي، والتي تروج لها حكومتا الولايات المتحدة والمملكة المتحدة في كثير من الأحيان باعتبارها حلولاً كافية للرقابة، هي غير كافية».
وأضافت: «إذا كان خبراء الأمن السيبراني يتحملون مسؤولية قانونية وجنائية عن شن هجمات سيبرانية على أي بنية تحتية، فينبغي أن يكون هناك نقاش جاد حول سبب إعفاء مختبرات الذكاء الاصطناعي من هذه المسؤولية والعواقب المترتبة عليها».
وتؤكد خلاف، التي تعمل أيضاً مهندسة سلامة بارزة في «معهد إيه آي ناو»، أنه باستثناء عملية اختراق «هاجينج فيس»، «كان الوصول إلى الإنترنت متاحاً بالفعل في جميع الحالات»، ما يعني أنه لم يكن هناك خروج للوكلاء من بيئة الاختبار، وإنما «عجز عن تطبيق إجراءات أمنية بدائية».
وتضيف، في إشارة إلى صعوبة فرض قيود على صناعة تطور تكنولوجيا ثورية تسير بوتيرة محمومة: «هذه النماذج لا تهرب ولا تنفلت من عقالها».