باحث سابق في «أوبن إيه آي» و«أنثروبيك»: البشرية قد تفقد السيطرة على الذكاء الاصطناعي

أدلى الباحث السابق في شركة «أنثروبيك» الأمريكية للذكاء الاصطناعي، جيكوب كوكسون، بشهادته أمام مجلس مدينة نيويورك في جلسة استماع واسعة حضرتها كبرى شركات الذكاء الاصطناعي وأعضاء مجلس المدينة الـ51، فضلاً عن عدد من الباحثين السابقين في عدة شركات، وفق تقرير وكالة «أسوشيتد برس» الإخبارية الأمريكية، وحذر فيها بشدة من مخاطر الذكاء الاصطناعي.

وأطلق كوسكون تحذيرات حادة من المسار الحالي لتطوير الذكاء الاصطناعي، معتبراً أن شركات القطاع تمضي بسرعة لا تتناسب مع حجم المخاطر المحتملة، وأن البشرية قد تصل إلى مرحلة تفقد فيها القدرة على السيطرة على أنظمة ذكاء اصطناعي متقدمة.

جاءت تصريحات كوسكون خلال جلسة استماع عقدها مجلس مدينة نيويورك، في وقت يدرس فيه المجلس حزمة تشريعات تهدف إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي وحماية المبلغين وإخضاع بعض الأنظمة لاختبارات مستقلة قبل نشرها.

وكانت العبارة الأكثر إثارة في شهادة كوسكون إقراره بأن مطوري التكنولوجيا لم يحلوا حتى الآن واحدة من أصعب المعضلات المرتبطة بالذكاء الاصطناعي المتقدم، قائلاً: «نحن لا نعرف حتى الآن كيف نسيطر على أي نظام ذكاء اصطناعي».

وذهب الباحث السابق إلى أبعد من ذلك، إذ قال إن استمرار الصناعة في مسارها الحالي يجعل، من وجهة نظره، فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي احتمالاً جدياً، وقد يقود في السيناريو الأكثر تطرفاً إلى تهديد وجود البشرية.

وقال أمام المشرعين إن الشركات تتصرف بطريقة وصفها بأنها «متهورة للغاية بالنظر إلى حجم المخاطر»، منتقداً انتقال ثقافة شركات التكنولوجيا الناشئة القائمة على مبدأ «تحرك بسرعة واكسر الأشياء ثم أصلحها لاحقاً» إلى مجال الذكاء الاصطناعي المتقدم.

واعتبر أن هذه العقلية ربما تكون مقبولة عند تطوير تطبيق بسيط لمشاركة الصور، لكنها تصبح أكثر خطورة عندما يتعلق الأمر بما وصفه بأنه «أقوى تكنولوجيا جرى بناؤها على الإطلاق».

وتكتسب شهادة كوسكون أهمية خاصة بسبب خبرته من داخل اثنتين من أبرز الشركات العاملة في تطوير النماذج المتقدمة، إذ سبق له العمل في «أوبن إيه آي» قبل انتقاله إلى «أنثروبيك»، التي غادرها في سبتمبر الماضي بعد تصاعد مخاوفه بشأن اتجاه سباق تطوير الذكاء الاصطناعي.

وبحسب كوسكون، فإن المشكلة لا تتعلق فقط بقوة النماذج الجديدة، بل أيضاً بسرعة تطورها مقارنة بقدرة البشر على فهم سلوكها وضمان بقائها متوافقة مع الأهداف التي يحددها مطوروها.

ولفت خلال شهادته إلى تزايد اعتماد شركات التكنولوجيا على الذكاء الاصطناعي نفسه في كتابة الأكواد البرمجية، محذراً من أن جزءاً كبيراً من الشفرة بات يُنتج بواسطة أنظمة الذكاء الاصطناعي، فيما لا يخضع كل ما تنتجه هذه الأنظمة، بحسب قوله، للتدقيق البشري بالقدر الكافي.

وفي مواجهة هذا السيناريو، لم يكتف كوسكون بتشخيص المخاطر، بل دعا إلى إبطاء وتيرة تطوير النماذج الأكثر تقدماً، قائلاً إن هناك حاجة إلى نوع من التباطؤ في تطوير نماذج الحدود المتقدمة.

وتناقش نيويورك، ضمن الأفكار المطروحة، آليات طوارئ أو ما يعرف بـ«مفتاح الإيقاف» الذي يسمح بتعطيل أنظمة ذكاء اصطناعي خطرة أو خارجة عن السيطرة. لكن كوسكون اعتبر أن مثل هذه الأدوات ربما تساعد على المدى القصير، إلا أنها لن تكون، في رأيه، كافية لضمان السلامة على المدى الطويل.

وهنا تكمن نقطة أساسية في رؤيته: القضية بالنسبة إليه ليست كيفية إيقاف نظام بعد أن يصبح خطراً فقط، وإنما منع الوصول إلى مرحلة يصبح فيها النظام أكثر قدرة من الأدوات المتاحة للسيطرة عليه.

ولم تقتصر جلسة الاستماع على الأصوات المنتقدة للصناعة، إذ شارك فيها أيضاً ممثلون عن «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا»، بينما أدلى باحثون سابقون آخرون بشهاداتهم، بينهم دانيال كوكوتايلو، الباحث السابق في «أوبن إيه آي»، وأليكس تيرنر، الباحث السابق في «غوغل ديب مايند».

وشاركت «أنثروبيك» عبر لوغان غراهام، رئيس فريق «Frontier Red Team»، فيما مثلت مورغان دواير «أوبن إيه آي»، وأليس فريند «غوغل»، وشين كاهيل «ميتا».

وتدرس رئيسة مجلس مدينة نيويورك جولي مينين حزمة من التشريعات تتضمن تعزيز حماية المبلغين عن المخالفات، وإتاحة إمكانية مقاضاة مطوري الأنظمة في ظروف معينة عندما تتسبب أنظمة الذكاء الاصطناعي في أضرار، إلى جانب إخضاع بعض الأنظمة للتحقق من جهات مستقلة قبل استخدامها داخل المدينة.

وقالت مينين قبل الجلسة إن الاعتماد على التنظيم الذاتي للشركات لن يكون كافياً، في إشارة إلى رغبة السلطات المحلية في إنشاء مستوى رقابي مستقل عن الإجراءات التي تضعها الشركات لنفسها.

وكشفت الجلسة أيضاً عن فجوة واضحة بين مطالب السياسيين بالحصول على تقديرات محددة للمخاطر وبين قدرة ممثلي الشركات على تقديم أرقام واضحة. وضغطت مينين على ممثلي الشركات لمعرفة ما إذا كانوا قادرين على تحديد حجم احتمال وقوع حادث كارثي بسبب أنظمة الذكاء الاصطناعي، لكنها قالت بعد إجاباتهم إن أياً من الشركات الأربع لم يقدم تقديراً محدداً لهذا الخطر، ووصفت ذلك بأنه أمر مقلق.

وتعكس هذه النقطة جوهر الجدل العالمي المتصاعد: شركات التكنولوجيا تضخ استثمارات بمليارات الدولارات في نماذج تزداد قوة بسرعة، بينما لا يزال العلماء وصناع السياسات مختلفين حول حجم المخاطر الحقيقية، والجدول الزمني الذي يمكن أن تظهر فيه، وما إذا كانت السيناريوهات الوجودية التي يحذر منها كوسكون وآخرون مرجحة أصلاً.