ديفيد سولومون
رئيس مجلس الإدارة والرئيس التنفيذي لشركة غولدمان ساكس.
يعد سرطان البنكرياس أحد أكثر الأمراض فتكاً في الطب، فهو نادراً ما يكتشف إلا بعد فوات الأوان. لكن في أبريل من العام الجاري، أثبتت عيادة «مايو كلينيك» كيف يمكن للذكاء الاصطناعي تغيير هذا التشخيص. إذ تمكن نموذجها للذكاء الاصطناعي من رصد 73% من حالات سرطان البنكرياس قبل ظهور الأعراض بنحو ثلاث سنوات، ما حوّل حكماً شبه مؤكد بالموت إلى نافذة تتيح تدخلاً علاجياً.
لم أخف قط تفاؤلي بشأن ما يمكن أن يقدمه الذكاء الاصطناعي للمجتمع. والأمراض ليست سوى مجال واحد؛ إذ ستظهر آلاف المجالات الأخرى، بعضها سيحقق تقدماً تدريجياً، وبعضها الآخر سيشهد تحولات جذرية، على مدى العقود المقبلة.
إن السؤال المطروح ليس ما إذا كان الذكاء الاصطناعي سيتقدم؛ فهو سيتقدم لا محالة. بل السؤال هو هل سنطوره على النحو الأمثل. فالعوائد المحتملة هائلة للغاية بحيث لا يمكن تجاهلها، بدءاً من اكتشاف الأدوية وإنتاج الغذاء وصولاً إلى سلاسل الإمداد، والنقل، والصناعات الإبداعية. كما أننا بحاجة إلى أفضل النماذج المتطورة لحماية مصالح أمننا القومي والتصدي للجهات الخبيثة بمختلف أنواعها.
يجب ألا نعمل على عرقلة هذا التقدم، بل ينبغي أن نركز على اغتنامه بالشكل الصحيح.
ولكن للأسف، يبدو أن النقاش العام حول الذكاء الاصطناعي محصور في ثنائية زائفة. إما الاندفاع للأمام بلا ضوابط، أو تجميد الابتكار عبر قيود صارمة ومفرطة. إلا أن هناك 3 مستويات أساسية للمسؤولية يجب أخذها في الاعتبار. الحكومات التي تضع القواعد التنظيمية، والمطورون الذين يبنون نماذج آمنة، ثم المستوى الذي يحظى بأقل قدر من الاهتمام، وهو الشركات التي تنشر وتستخدم هذه النماذج. فهذه الشركات هي التي تقرر موقع نموذج الذكاء الاصطناعي ضمن سير العمل، والصلاحيات الممنوحة له، والجهة المسؤولة في حال حدوث إخفاق.
لقد سمعت مقترحات تطالب بإسقاط الهيكل التنظيمي المصرفي وتطبيقه على الرقابة على الذكاء الاصطناعي. هذا نهج خاطئ تماماً. فالذكاء الاصطناعي يطرح تحديات تقنية فريدة، وأنماط نشر متميزة، ووتيرة تطوره أسرع بكثير. وأنا لا أدعو لإخضاع الذكاء الاصطناعي لتدقيق أقل من الذي تواجهه البنوك، بل أؤكد على ضرورة تصميم آليات رقابية تتناسب خصيصاً مع هذه التكنولوجيا، بدلاً من استنساخ نماذج رقابية من قطاعات أخرى.
أنا ألتقي بمئات الرؤساء التنفيذيين كل عام، واتضح لي أن كلاً منهم يدير شركة تعتمد على الذكاء اصطناعي اليوم. فمثلهم مثل «جولدمان ساكس»، يقوم هؤلاء بنشر هذه التقنية في مختلف عملياتهم وإنشاء ونشر وكلاء ذكاء اصطناعي على نطاق واسع. وستكون الفوائد هائلة، لكن يصاحب ذلك مخاطر تشغيلية مقابلة، وهي مخاطر لم يضطر الكثير منهم لإدارتها من قبل، ولكن الشركات المالية أدارتها لعقود طويلة.
في «جولدمان ساكس»، ندير المخاطر بناءً على مبادئ قد تكون مفيدة ليس فقط لمطوري الذكاء الاصطناعي، بل لكل الجهات التي توظف هذه التقنية، سواء الشركات الكبيرة أم الصغيرة التي تدمج الذكاء الاصطناعي في عملياتها.
أولاً، يجب المحاسبة والمساءلة. فلقد دأبت الشركات المالية على تشغيل منصات تداول آلية باستخدام التعلم الآلي لعقود؛ ومبدأ استحالة لوم التكنولوجيا وحدها عند حدوث خطأ في التداول هو مبدأ راسخ ومتحقق تماماً. لذا، يجب أن يتحمل صانعو القرار الأفراد المسؤولية عن المخاطر في أنظمتهم والنتائج التي تسفر عنها.
ثانياً، يجب فهم مخاطر الطرف المقابل. إذ يجب على الشركات تقييم وفهم المخاطر المتوارثة من مطوري النماذج، وتجنب الوقوع في فخ الاعتماد المفرط والخطير على مزود واحد. كما يجب إخضاع أنظمة الذكاء الاصطناعي لمراجعات مستقلة، وتوثيقها بدقة، ومراقبتها باستمرار، وإعادة تقييمها بانتظام مع تطور قدراتها.
ثالثاً، اختبارات الضغط والتحمل. ينبغي أن تتضمن قرارات نشر الذكاء الاصطناعي مراجعات شاملة للمخاطر تختبر قدرة النماذج على الصمود أمام سيناريوهات ضغط واقعية وقاسية. ويشمل ذلك البحث المتعمد عن نقاط الفشل، وسوء التوافق، والنتائج غير المقصودة في بيئات خاضعة للرقابة. ومن المعروف أن البنوك تجري اختبارات تحمل للجهات التنظيمية، ولكن ما قد يخفى على البعض هو أنها تجري بانتظام اختبارات تحمل لعملياتها ونماذجها الخاصة. وستتبنى أفضل الشركات اختبارات التحمل الروتينية للذكاء الاصطناعي.
وأخيراً، يجب مكافأة الإبلاغ عن المخاطر وتصعيدها. فيمكن أن تظهر الثغرات في أي مكان داخل المؤسسة، لذا ينبغي الاحتفاء بمن يطرح المخاوف، وتوفير قنوات واضحة للتصعيد متاحة للموظفين على مختلف المستويات. ويجب أن يصبح هذا ركيزة أساسية في ثقافة أي شركة تنشر الذكاء الاصطناعي.
إن الشركات التي ستفوز بعصر الذكاء الاصطناعي لن تكون تلك التي تحركت بأسرع وتيرة أو انتظرت أطول فترة، بل تلك التي بنت الانضباط اللازم للنشر على نطاق واسع مصحوباً بالثقة واليقين. وقد تقاس مكافأة تحقيق ذلك بالنجاح في اكتشاف الأمراض مبكراً، وتحقيق اكتشافات تسبق التوقعات بسنوات، وتعزيز مكاسب الإنتاجية المتراكمة في كل قطاع من قطاعات الاقتصاد.
إن الخيار ليس بين الابتكار والسلامة، بل بين تجارب سيئة في الحوكمة وبين تقدم يقوم على المساءلة والثقة واليقين. ويمكننا أن نكون متعجلين ومتشوقين لذلك المستقبل، لكن مع الحفاظ في الوقت نفسه على الصرامة والدقة في كيفية الوصول إليه.