في واقعة تكشف مدى التطور السريع في قدرات الذكاء الاصطناعي على تنفيذ الهجمات الإلكترونية، تمكن فريق مستقل من الباحثين الأمنيين من الوصول إلى أنظمة داخلية تابعة لشركة «أوبن أيه آي»، المطورة لـ«شات جي بي تي»، باستخدام نموذج «كلود» من منافستها "أنثروبيك"، قبل أن يبلغ الباحثون الشركة بالثغرات التي اكتشفوها ويحصلوا منها على مكافأة قدرها 6500 دولار.
وكشفت صحيفة «وول ستريت جورنال» تفاصيل الواقعة، التي شارك فيها فريق من شركة الأمن السيبراني Hacktron AI ضمن برنامج «أوبن أيه آي» المخصص للباحثين عن الثغرات، والذي يسمح لهم باختبار أنظمة الشركة والإبلاغ عن نقاط الضعف بصورة قانونية ومنظمة.
وبدأت العملية في 23 يوليو، عندما اكتشف الباحثون ثغرة في الطريقة التي يعالج بها برنامج Discourse، المستخدم لتشغيل منتدى «أوبن أيه آي» المجتمعي، بعض ملفات الصور. واستعان الفريق بنسخة متخصصة من نموذج Claude Opus 4.8 "كلود أوبس 4.8"مخصصة للمتخصصين المؤهلين في الأمن السيبراني، وطلب منه المساعدة في كتابة الشيفرة اللازمة لاستغلال الثغرة.
لكن المحاولة الأولى لم تنجح. وفي اليوم نفسه تقريبًا، أطلقت "أنثروبيك" نموذج Claude Opus 5، ليتمكن الباحثون في اليوم التالي من استخدامه للوصول إلى طريقة ناجحة لاستغلال الثغرة، وفقًا لما نقلته «وول ستريت جورنال» عن الفريق.
وسمح الاستغلال للباحثين بالوصول إلى خادم "ديسكورس" الذي يستضيف منتدى «أوبن أيه آي»، ومنه حصلوا على رموز مصادقة، وهي سلاسل رقمية تستخدم للتحقق من هوية المستخدم ومنحه صلاحية الدخول إلى الخدمات المختلفة.
المفاجأة كانت أن بعض هذه الرموز كانت صالحة للوصول إلى حسابات على «شات جي بي تي»، بينها حسابات لموظفين في «أوبن أيه آي»، كما أمكن استخدامها للوصول إلى خدمة GitHub التابعة للشركة، والتي تستضيف مستودعاتها البرمجية.
ومن هناك، تمكن الباحثون من الوصول إلى مستودع داخلي يحمل اسم Monorepo، وصفه أشخاص مطلعون على بنية «أوبن أيه آي»، بحسب الصحيفة، بأنه مستودع برمجي ضخم يحتوي على أجزاء مهمة من أسرار الشركة الخوارزمية. ولا يُعتقد أنه يحتوي على «أوزان» النماذج نفسها، وهي المكونات الرقمية الأساسية التي تقوم عليها نماذج الذكاء الاصطناعي.
وباستخدام «شات جي بي تي» كواجهة، تمكن الباحثون من قراءة ملفات داخل المستودع. لكنهم قالوا إنهم توقفوا عن التوغل بعدما أدركوا أنهم وصلوا إلى بيانات حساسة.
وقبل التوقف، نفذ الفريق خطوة لإثبات نجاح الاختراق، إذ طلب من النظام إنشاء Pull Request، وهو اقتراح لإجراء تعديل على أحد الملفات. واقترح الباحثون إضافة عبارة تشير إلى فريق Hacktron AI وروابط لحسابات اثنين من أعضائه على منصة «إكس». ولم توافق «أوبن أيه آي» على التعديل، لكنها قالت إن مراجعتها كشفت عن عمليات قراءة محدودة لبيانات وصفية وشيفرات داخل مستودعات خاصة.
وأصلحت منصة "ديسكورس" الثغرة في 25 يوليو، بينما قالت «أوبن أيه آي» إنها عالجت المشكلات المرتبطة بالحادثة، بما في ذلك تضييق صلاحيات رموز تسجيل الدخول وإلغاء الرموز والجلسات المتأثرة.
وأكّدت "أوبن ايه آي" إصلاح العطل خلال 14 ساعة من إبلاغها به وقدّمت للباحثين مكافأة بقيمة 6500 دولار.
وقال موهان بيدهاباثي، كبير مسؤولي التكنولوجيا في Hacktron AI، لـ«وول ستريت جورنال» إن ما فعله الفريق لا يتطلب قدرات ضخمة، مشيرًا إلى أنهم كانوا مجرد ثلاثة أشخاص يمتلكون اشتراكات في Claude وCodex، في إشارة إلى مدى انخفاض الحاجز أمام تنفيذ عمليات سيبرانية معقدة بمساعدة الذكاء الاصطناعي.
ويرى خبراء أمنيون أن خطورة الواقعة لا تكمن فقط في وجود ثغرات برمجية، وإنما في قدرة نماذج الذكاء الاصطناعي الحديثة على مساعدة عدد أكبر من الأشخاص في العثور على هذه الثغرات واستغلالها بسرعة أكبر.
وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة Abundant Security، إن عالم البرمجيات مليء بالثغرات، لكن اكتشافها كان يتطلب في السابق عددًا محدودًا من الخبراء المتخصصين. أما الآن، فأصبحت أدوات الذكاء الاصطناعي قادرة على إتاحة جزء من هذه القدرات لأشخاص أقل خبرة.
وتشير الواقعة إلى جانب آخر من السباق المتسارع في الذكاء الاصطناعي، فالنماذج التي تُطور لمساعدة البشر على البرمجة وتحليل الأنظمة يمكن استخدامها أيضًا في اكتشاف نقاط الضعف والهجوم عليها، ما يجعل الدفاع عن البنية الرقمية للشركات أكثر تعقيدًا.
وبعد هذه الحادثة وهجوم آخر مرتبط بوكلاء ذكاء اصطناعي استهدف منصة Hugging Face، قال غريغ بروكمان، رئيس OpenAI وأحد مؤسسيها، إن الشركة أجرت مراجعة أمنية واسعة لأنظمتها، وخصصت نحو 25% من مهندسي الإنتاج للدفاع الأمني، بعدما كشفت المراجعة عن عدد من المشكلات التي قالت الشركة إنها عملت على إصلاحها.
وتأتي هذه الواقعة في وقت تتزايد فيه المخاوف من انتقال الهجمات السيبرانية المدعومة بالذكاء الاصطناعي من عمليات تتطلب أشهرًا من التحضير وفِرقًا متخصصة، إلى عمليات يمكن تنفيذ أجزاء كبيرة منها بسرعة وبمساعدة نماذج متقدمة.