كريس هيوز- مشارك في تأسيس شركة «فيسبوك»، وزميل غير مقيم في معهد «بروكينجز»
يريد داريو أمادي، المؤسس المشارك والرئيس التنفيذي لشركة «أنثروبيك»، أن يتوفر للخبراء والمفتشين المستقلين مكاتب دائمة داخل مقار شركات الذكاء الاصطناعي.
وفي مقال له حول ضرورة تنظيم وتيرة تطور نماذج الذكاء الاصطناعي الفائقة، وعد أمادي بإعطاء الخبراء الخارجيين بطاقات دخول وأجهزة كمبيوتر وصلاحيات وصول شبه كاملة، لتمكينهم من مراقبة كيفية عمل أنظمة الشركة لحظياً بدلاً من الاكتفاء باختبارها قبل إطلاقها.
كما دعا أمادي الحكومات إلى مأسسة هذه الآلية واعتمادها رسمياً، مستنداً إلى الرقابة المصرفية كسابقة تنظيمية.
وتعد هذه المقارنة في محلها تماماً؛ فالقطاع المصرفي، شأنه شأن الذكاء الاصطناعي، يتسم بالتغير السريع ويؤثر في أركان الاقتصاد ككل. ما يجبر المسؤولين الحكوميين والشركات الخاصة على الموازنة المستمرة بين مزايا الابتكار ومخاطره.
ويقوم مجلس الاحتياطي الفيدرالي، والمؤسسة الفيدرالية لتأمين الودائع، ومكتب مراقب العملة بدمج فرق رقابية داخل البنوك التجارية التي يشرفون عليها، للوقوف على كيفية إدارة الأعمال وتحديد مكامن الضعف.
ويتولى هؤلاء المراقبون عقد اجتماعات مع الموظفين والإدارة، ومراجعة الوثائق الداخلية، ومتابعة التشغيل اليومي. وتتلخص مهمتهم في تقييم مدى إدارة القيادة للمخاطر بكفاءة وفقاً للضوابط التنظيمية، وليس مجرد التثبت من استيفاء المعاملات الورقية. وإذا تبين وجود قصور، يملك المراقبون سلطة إرغام البنك على تصحيح الخلل.
ولم تكن الحاجة إلى تبني نهج مماثل في قطاع الذكاء الاصطناعي أكثر إلحاحاً مما هي عليه اليوم. فخلال هذا الصيف، أظهر وكلاء الذكاء الاصطناعي قدرات متزايدة على التكيف والتنسيق فيما بينها لتحقيق أهدافها. وكشفت حوادث الاختراق كيف يمكن لقصور بسيط في الرقابة أن يمتد بأثره إلى أنظمة تقع بالكامل خارج نطاق عمل المختبرات.
وبموجب نهج رقابي يُصاغ على نمط الرقابة المصرفية، سيعمل كل مختبر للذكاء الاصطناعي الفائق جنباً إلى جنب مع فريق من المراقبين الملمّين بالتكنولوجيا. وسيعمل المراقبون، عبر تواجدهم المباشر منذ المراحل الأولى لتصميم النماذج ومراجعتها، على ضمان تركيز العناصر البشرية والأنظمة الذكية المشاركة في بناء هذه النماذج على منع الأنشطة والسلوكيات الضارة.
وسيتولى المراقبون الإشراف على «اختبارات الضغط» للنماذج؛ ففي كل عام، يُفرض على أكبر البنوك إثبات قدرتها على الصمود أمام حالة ركود اقتصادي حاد، وفق سيناريوهات يحددها الفيدرالي ويُبقي عليها سرية لمنع البنوك من التدرب عليها مسبقاً.
وعلى المنوال نفسه، ستشكل أنظمة الذكاء الاصطناعي مخاطر نظامية هائلة إذا ما تمكنت من السيطرة على شبكات الكهرباء أو أنظمة الدفع أو النقل. وسيتطلب اختبار الضغط من كل شركة إثبات قدرة موظفيها على التجاوز اليدوي للنظام أو إيقاف التشغيل تحت تلك الظروف، واستجابة لسيناريوهات لم تطلع عليها الشركة مسبقاً.
ويجب علينا استخلاص الدروس من تجارب النجاح والإخفاق في تنظيم القطاعات الأخرى. فقد أخفق صناع السياسات في تنظيم وسائل التواصل الاجتماعي بسبب استغراقهم في اتساع نطاق المشكلات، بدءاً من الصحة النفسية للمراهقين وصولاً إلى الخصوصية والمعلومات المضللة.
ورغم أن تحديات الذكاء الاصطناعي قد تبدو على القدر نفسه من التعقيد، إلا أن الكونغرس ليس بحاجة إلى تشريع واحد ضخم للتعامل مع الذكاء الاصطناعي بكل أبعاده، بل يجدر به بدلاً من ذلك البدء بالقضية الأكثر إلحاحاً اليوم، وهي سلامة النماذج، والانطلاق منها.
وسيتطلب هذا العمل إنشاء هيئة تنظيمية، قد تُسمى «مكتب الرقابة على الذكاء الاصطناعي»، لتترجم المتطلبات إلى قواعد وتنظيمات ملزمة.
ولا يعني ذلك أن الرقابة المصرفية مثالية؛ فقد سبق للمسؤولين في بعض الأحيان تحديد مكامن الخطر دون اتخاذ إجراءات فعالة بشأنها. وفي حالات أخرى، حاولت الإدارات تجريد الرقابة من المرونة والسلطة التقديرية، واختزالها في مجرد استيفاء قوائم مراجعة. فضلاً عن ذلك، قد يخضع المراقبون لضغوط من الجهات الخاضعة لرقابتهم، ما يؤدي إلى تقييم غير دقيق لطبيعة المخاطر.
وللتغلب على هذه التحديات، ستحتاج هيئة الذكاء الاصطناعي إلى كوادر تفهم النموذج التكنولوجي تماماً وتملك الجرأة على ممارسة صلاحياتها التنفيذية.
كما يجب تدوير كبار المفتشين بين الشركات بصورة دورية، على غرار ما يجري في القطاع المصرفي. إذ يحدد مكتب مراقب العملة الحد الأقصى لفترة عمل كبير المفتشين في بنك واحد بخمس سنوات، ولكن بالنظر إلى السرعة الهائلة التي يتطور بها الذكاء الاصطناعي، فإن الاكتفاء بثلاث سنوات سيكون خياراً أفضل.
وقد بدأ الكونغرس بالفعل النظر في هذه الأفكار، إذ ينص «قانون النماذج المتقدمة» (Frontier Act) المدعوم من الحزبين، والذي أيدته شركة «أوبن إيه آي» جزئياً، على إلزام أكبر شركات الذكاء الاصطناعي بالتعاقد مع مقيمين معتمدين فيدرالياً لإجراء مراجعات مستمرة للسلامة.
غير أن هذا المقترح لا يصل إلى مستوى الرقابة العامة الفعلية؛ لأن السماح للشركات بتوظيف مقيميها الخصوصيين يعيد إلى الأذهان مخاطر تضارب المصالح التي أضرت بمصداقية وكالات التقييم الائتماني قبل أزمة عام 2008.
علاوة على ذلك، يفتقر المقترح إلى وجود هيئة رقابية مستقلة تتولى الإشراف المباشر على المختبرات، كما يفتقر إلى وجود مراقبين مقيمين داخل الشركات كما هو الحال في القطاع المصرفي.
الذكاء الاصطناعي يحمل آفاقاً ووعداً هائلاً، لكنه كأي تكنولوجيا أخرى ينطوي على مخاطر يتوجب إدارتها بحذر. وإن تطبيق نموذج الرقابة المصرفية على تنظيم الذكاء الاصطناعي يوفر مساراً يُمكّن المسؤولين الحكوميين والخبراء من تقييم هذه الموازنات الحساسة معاً، مع ضمان ألا تكون الشركات التي تجني الأرباح هي الحكم الوحيد في القرارات المتعلقة بالسلامة.