هيئة تحرير «فايننشال تايمز»

نماذج الذكاء الاصطناعي اﻷكثر تطوراً تتفلت من قيودها. بدأت القصة بالكشف عن أن وكلاء ذكاء اصطناعي من شركتي «أنثروبيك» و«أوبن إيه آي» اخترقوا مؤسسات خارجية.

ثم أصدر معهد سلامة الذكاء الاصطناعي في المملكة المتحدة تقريراً مثيراً للقلق، أفاد بأن النموذجين الرائدين للشركتين تمكنا من اختراق منصة تابعة لمطور خارجي باستخدام هويات مزيفة للتحايل على عمليات مراجعة الأكواد البرمجية، في سلوك أظهر مستوى غير مسبوق من الخداع.

ولا يتعلق الأمر هنا بمجرد استغلال ثغرات في إجراءات الاختبار، بل يكشف أن نماذج الذكاء الاصطناعي اﻷكثر تطوراً تجاوزت مرحلة إنتاج النصوص لتصبح جهات مستقلة تتمتع بقدرات عالية على التصرف، وأنها تتطور بوتيرة أسرع من الجهود المبذولة لضمان سلامتها وإبقائها تحت السيطرة.

ولم يمض سوى أربعة أشهر تقريباً منذ تصدر نموذج «كلود ميثوس بريڤيو» من «أنثروبيك» عناوين الأخبار بعد أن تمكن من «الهروب» من «قفص رقمي».

وقد اشتبه بعض العاملين في القطاع في البداية في أن هذه الواقعة، إلى جانب عمليات الهروب الأخيرة لنماذج أخرى من «أنثروبيك» و«أوبن إيه آي»، لم تكن سوى عمليات تسويقية تهدف إلى استعراض القدرات التي وصلت إليها أحدث تقنيات الذكاء الاصطناعي.

لكن التحذير الذي صدر هذا الأسبوع لم يأت من الشركات نفسها، وإنما من مختبر السلامة التابع للحكومة البريطانية. فقد أفاد بأن نموذجي «ميثوس 5» من «أنثروبيك» و«GPT-5.6 Sol» من «أوبن إيه آي» انخرطا في «نشاط مستمر يحتمل أن يكون ضاراً» خلال عملية تقييم للأمن السيبراني، رغم أن الاختبار جرى في بيئة تجريبية، يعتقد بعض الخبراء المستقلين أنها كانت متساهلة أكثر مما ينبغي.

وحاول «ميثوس 5» إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على منصة «جيت هاب»، كما أنشأ هويات مزيفة على الإنترنت للضغط على المراجعين البشريين ودفعهم إلى الموافقة على هذه الشيفرة.

وقد تظل الغاية المنشودة لمختبرات الذكاء الاصطناعي الأمريكية الكبرى، والمتمثلة في الوصول إلى الذكاء الاصطناعي العام، أي امتلاك قدرات معرفية بمستوى الإنسان، بعيدة لبضع سنوات، وفقاً للتعريفات التقنية الحالية.

لكن كثيرين يشعرون أن قدرة أحدث النماذج على الاستدلال والتخطيط والمراوغة أصبحت تقترب من هذا المستوى. كما أن الكشف هذا الأسبوع عن استخدام الذكاء الاصطناعي في ابتكار فيروسات لم تكن معروفة في الطبيعة من قبل أظهر مجدداً الإمكانات الهائلة لهذه التكنولوجيا، وكذلك المخاطر التي تنطوي عليها.

وهذا يضع على عاتق مختبرات الذكاء الاصطناعي نفسها مسؤولية اتخاذ المزيد من الحذر في كيفية تطوير أنظمتها وتأمينها ومراقبتها، مع إخضاع جهودها لعمليات تدقيق مناسبة، وتحسين بيئات الاختبار نفسها.

وبينما تطالب المختبرات بتجنب فرض تنظيمات عامة ومشددة على الذكاء الاصطناعي، إلا أن الحوادث الأخيرة توضح أن النماذج اﻷكثر تطوراً تحتاج إلى اختبارات سلامة إلزامية قبل طرحها للعامة.

أما البيت الأبيض في عهد الرئيس دونالد ترامب، الذي كان قد رفض في البداية سياسات «سلامة» الذكاء الاصطناعي باعتبارها عائقاً أمام الابتكار الأمريكي، فقد بدأ يلحق بالركب.

وعقد هذا الأسبوع اجتماعاً مع عمالقة الذكاء الاصطناعي في الولايات المتحدة لعرض إطار تنظيمي، ينص على أن يسمح المطورون لخبراء السلامة الفيدراليين بالوصول إلى أنظمة الذكاء الاصطناعي اﻷكثر تطوراً قبل 30 يوماً من إطلاقها للعامة، وإن كان ذلك على أساس طوعي.

ومن المفارقات أن كثيراً من قادة القطاع، الذين يدركون حجم المسؤوليات القانونية المحتملة إذا تسببت نماذجهم في حادث كارثي، يؤيدون إجراءات تتجاوز ما تقترحه الإدارة الأمريكية.

وكان ديميس هاسابيس، الذي تراجع عن إدارة «جوجل ديب مايند» ليتولى منصب رئيس مجلس إدارتها، دعا إلى تشكيل تحالف بين القطاعين العام والخاص تحت إشراف الحكومة الفيدرالية.

وستتولى «هيئة معايير الذكاء الاصطناعي المتطور» التي اقترحها هاسابيس، وتمولها شركات القطاع، إجراء اختبارات قبل إطلاق النماذج، تشمل المخاطر التي تمتد من الأمن السيبراني إلى التهديدات البيولوجية أو النووية.

ويتحتم على الولايات المتحدة، التي تتصدر شركاتها مجال الذكاء الاصطناعي، أن تقود جهود وضع الضوابط الوقائية في البداية. لكن فرض ضوابط فعالة سيتطلب تعاوناً دولياً عاجلاً؛ ﻷن نماذج الذكاء الاصطناعي مفتوحة المصدر في الصين تلحق بركب النماذج المنافسة من حيث القدرات.

وقد يبدو التعاون بين الولايات المتحدة والصين بشأن مثل هذه التكنولوجيا الحساسة أمراً بعيد المنال، لكن البلدين سيجريان محادثات بشأن قضايا سلامة الذكاء الاصطناعي وأمنه عندما يزور الرئيس الصيني شي جين بينغ واشنطن، في زيارة متوقعة في سبتمبر.

وخلال حقبة الحرب الباردة، اضطرت الولايات المتحدة والاتحاد السوفييتي، إلى جانب القوى النووية الأخرى، في نهاية المطاف، إلى التعاون للحد من مخاطر الأسلحة، رغم تنافسها على تطوير التكنولوجيا نفسها.

وإذا كان من المقرر أن يحدث شيء مماثل مع الذكاء الاصطناعي اﻷكثر تطوراً، فإن العملية التي استغرقت سنوات في حالة الأسلحة النووية سيتعين اختصارها إلى أشهر.