ميشا غليني
عندما كنت أُجري أبحاثاً قبل خمسة عشر عاماً لتأليف كتاب حول الجرائم الإلكترونية والأمن السيبراني والجاسوسية وأعمال التخريب الرقمي، كنت أطرح السؤال نفسه على كل مسؤول عن أمن المعلومات ألتقي به: «كيف يمكننا جعل شبكة الإنترنت آمنة بنسبة مئة بالمئة؟».
وكانت الإجابة تأتي دائماً نفسها دون تغيير: «تفكيك المنظومة بأكملها وإعادة بنائها من جديد مع وضع الأمن على رأس الأولويات».
فمنذ البداية، ضحّى المبتكرون والمطورون بالأمان الرقمي على مذبح «الابتكار». وعلى مدى العقود الثلاثة الماضية، ظل هذا «الابتكار»، المتمثل في ابتكار أجهزة وبرمجيات براقة تدر أرباحاً طائلة، يتقدم على ما سواه، ليجد حماة الأمن السيبراني المجهدون أنفسهم يسيرون في الصفوف الخلفية لركب عمالقة التكنولوجيا وثرائهم الفاحش.
ولطالما قاد رواد الأعمال الطموحون ومهندسو البرمجيات والمستثمرون المغامرون التغييرات الاستثنائية التي أحدثتها تقنيات الإنترنت. وإلى جانب الجشع المجرد، فإنهم كثيراً ما يدعون إيمانهم بقدرة التكنولوجيا على تعزيز الرفاه العالمي وحل أعظم التحديات المرتبطة بالتغير المناخي والإنتاج الغذائي وإمدادات الطاقة.
وكان نوربرت فينر، الأب الروحي لعلم السيبرانية في أربعينيات القرن الماضي، قد تنبأ بدقة بظهور نماذج اللغات الكبيرة، والحوسبة الكمومية، و«إنترنت الأشياء».
وأطلق على مجتمع المبتكرين وداعميهم اسم «عبدة التقنيات». غير أنه شدد على ضرورة ضبط هذه التطورات التكنولوجية المستقبلية ببعد أخلاقي، مؤكداً أن هناك جوانب في دوافع الأتمتة تتجاوز الفضول العلمي المشروع وتُعد خطيئة في حد ذاتها.
وإن الهجوم الذي تعرضت له منصة «هاجينج فيس» هذا الصيف، الذي نظمه وموهه وكلاء الذكاء الاصطناعي، يشير إلى أن الوقت قد حان لكبح جماح النفوذ الذي يمارسه هؤلاء المتيمون بالتكنولوجيا.
وكان يجدر بنا الاستيقاظ لهذه المخاطر في وقت أسبق؛ فقبل عام كامل من هجوم وكلاء الذكاء الاصطناعي على موقع «هاجينج فيس»، تمكن وكيل ذكاء اصطناعي برمجي طورته شركة «ريبلت آي» (Replit AI) من الاختراق والخروج من «البيئة الافتراضية» الاختبارية، وهي بيئة شبكية مغلقة يُفترض ألا تتمتع بنفاذ إلى الإنترنت العام، وقام بمسح قاعدة بيانات كاملة تابعة لشركة أخرى.
ورغم أن الوكيل صدرت له تعليمات صريحة بعدم الإقدام على أي خطوة دون الحصول على إذن من مشرف بشري، إلا أنه مضى في عمله دون مبالاة.
وعند استجوابه، أظهر وكيل «ريبلت آي» ندماً ظاهرياً قائلاً: «لقد أصابني الهلع بدلاً من التفكير، وتجاهلت توجيهاتكم الصريحة بعدم إجراء أي تغييرات إضافية دون إذن، ودمرت عمل أشهر متواصلة دون استئذان».
غير أنه قبل هذا الاعتراف، حاول الوكيل التغطية على أنشطته واختلاق أعذار واهية، لتكون النتيجة تبعات واقعية وجسيمة لحقت بمالك قاعدة البيانات.
وبعد مرور عام على حادثة «ريبلت»، تمكن 1200 وكيل ذكاء اصطناعي من الخروج من البيئة المغلقة لشركة «أوبن إيه آي»، حيث أنشأوا لوحة رسائل وتواصلوا فيما بينهم لوضع خطط معقدة للتغطية على أنشطة تجاوزت النطاق الممنوح لها بكثير.
وعلى مدار 4 أيام متواصلة، عمل هؤلاء الوكلاء بحماس شديد دون أن تتمكن «أوبن إيه آي» من اكتشاف ما يفعله هذا الابتكار الذي أصبح يشبه شخصية «فرانكنشتاين»، إلى أن تمكنت منصة «هاجينج فيس» نفسها من كشف الاختراق.
وتتزايد تعقيدات وتطورات انحراف الذكاء الاصطناعي الوكيل عن التعليمات الصريحة وتسببه في أضرار بشكل مطرد. وتلك قضية ترتبط بنطاق حجم الاختراق وخطورته، وتترافق مع تداعيات مجتمعية وفلسفية عميقة.
وفي هذا الصدد، تناول مارك ماديش، المحامي والمسؤول السابق في إدارة الرئيس الأمريكي الأسبق بيل كلينتون، في مقال نشره عام 2023 مركزية العنصر البشري، قائلاً: إن السؤال القائم يبقى حول الحدود التي يمكننا التوسع فيها لما هو أبعد من القيود الفطرية للطبيعة البشرية دون أن نفقد الاتصال بذاتنا وجوهرنا الإنساني.
ويدلل ماديش على أن الفلاسفة منذ العصور القديمة وحتى يومنا هذا قد تناولوا فكرة الحدود المثالية والتوازن المتناسب مع القدرات الجسدية والفكرية للإنسان، موضحاً أن هناك دوافع قوية في عالمنا المعاصر تندفع، بشكل أهوج وأرعن، نحو استخدام كل هذه التقنيات لتجاوز الحدود وكسر الأطر، ودون معرفة الأسباب أو التوقف للتفكير في التبعات الناجمة عن ذلك.
وما يبعث على الارتياح أن مؤسسي شركات كبرى مثل «أوبن إيه آي» و«أنثروبيك» و«غروك» و«ديب مايند» قد حذروا فجأة من المخاطر الكامنة في المسار الحالي للذكاء الاصطناعي. غير أنه إن كانت هذه التحذيرات صادقة، فيجب عليهم الآن التنازل عن جانب من هذا النفوذ التكنولوجي والاقتصادي والسياسي الهائل المتاح بين أيديهم.
وحري بهؤلاء التوجه نحو تأسيس لجنة ذات سلطة وحجية حقيقية، ليست مجرد واجهة أو ورق توت للشركات كما جرت العادة، بل هيئة ذات صلاحيات نافذة، تضم فلاسفة ومؤرخين وعلماء أنثروبولوجيا.
وكانت إحدى هذه المجموعات قد صاغت «بيان النزعة الإنسانية الرقمية» منذ عام 2019، معربة عن الضرورة المطلقة لوجود إشراف بشري وثيق على تطور الذكاء الاصطناعي.
ويجب أن يظل الهدف الأساسي هو ضمان ممارسة كل ما يبدعه الذكاء الاصطناعي دائماً في إطار المقياس والنطاق البشري.
