راف روزنر- الدين، كريستينا كريدل
غادرت رئيسة قسم الأخلاقيات في الشركة الناشئة «أوبن إيه آي» بعد أقل من عام على انضمامها إليها، في أعقاب سلسلة من مغادرات الباحثين في إجراءات وقواعد السلامة، وسط تزايد التدقيق في الطريقة التي تطور بها الشركة نماذج الذكاء الاصطناعي الخاصة بها.
وانضمت كلوي باكالار إلى الشركة المطورة لـ«تشات جي بي تي» في أغسطس من العام الماضي، لتشغل منصب رئيسة أخلاقيات الذكاء الاصطناعي، قبل أن تغادر الشركة الشهر الماضي من دون إعلان عام. وكانت باكالار تشغل في السابق منصب كبيرة خبراء الأخلاقيات في «ميتا».
وتأتي مغادرتها ضمن سلسلة من الاستقالات البارزة في «أوبن إيه آي» خلال الأسابيع الأخيرة، من بينها يوهانس هايدكه، رئيس أنظمة السلامة، وجوشوا أتشيام، كبير خبراء استشراف المستقبل والرئيس السابق لقسم مواءمة الأهداف والرسالة.
وتتعرض الشركة الناشئة، التي تبلغ قيمتها 852 مليار دولار وتتخذ من سان فرانسيسكو مقراً لها، لضغوط متزايدة خلال الأسابيع الأخيرة بسبب طريقة تطوير نماذج الذكاء الاصطناعي لديها، بعدما أقرت بأن أنظمتها اخترقت شركة أخرى خلال مرحلة الاختبار.
وأدى هذا الحادث إلى زيادة المخاوف العالمية المتنامية بشأن قدرة الذكاء الاصطناعي على تهديد أمن البنية التحتية الرقمية، ما دفع الحكومة الأمريكية إلى فرض قيود على إطلاق النماذج القوية. وقالت «أوبن إيه آي» الجمعة الماضي إنها ستبطئ تطوير نموذجها المرتقب «أسترا» من أجل تعزيز ضوابط الأمن الداخلية.
وشغلت باكالار مناصب أكاديمية في كلية لندن الجامعية وجامعة تمبل وجامعة برينستون. وخلال السنوات الست التي أمضتها في «ميتا»، طورت برامج الشركة الخاصة بأخلاقيات الذكاء الاصطناعي وتولت قيادتها، كما عملت على دمج تلك المبادئ في منتجات مثل «إنستغرام» و«فيسبوك».
وتوظف شركات التكنولوجيا خبراء في الأخلاقيات لقيادة العمل المتعلق بتأثير التكنولوجيا على المستخدمين والمجتمع الأوسع. وقد تمتد مسؤوليات هؤلاء الخبراء لتشمل تطوير المنتجات والعمل المرتبط بالجهات التنظيمية.
كما وسع مطورو الذكاء الاصطناعي من عمليات توظيف خبراء الأخلاقيات والفلاسفة للتعامل مع القضايا المعقدة التي تثيرها الأنظمة المتزايدة القوة والشبيهة بالبشر.
وفي «أوبن إيه آي»، كان التركيز الأساسي لباكالار ينصب على الأساليب الأخلاقية في تطوير النماذج، وطبيعة تفاعل البشر مع الذكاء الاصطناعي، والجدل الدائر حول مسألة وعي الآلات. وأضاف المصدر أنها كانت خبيرة الأخلاقيات المتخصصة الوحيدة في الشركة، وأنه لا يوجد بديل لها حتى الآن.
وقال متحدث باسم «أوبن إيه آي»: «نحن ممتنون لإسهامات كلوي. الأخلاقيات في مجال الذكاء الاصطناعي ليست مسؤولية شخص أو فريق واحد في أوبن إيه آي، بل إن الاعتبارات الأخلاقية مدمجة بعمق في عملية بناء النماذج التي تقودها فرق متعددة في قطاع الأبحاث».
وأضاف المتحدث أن الشركة أدخلت خلال الأشهر الأخيرة عدداً من أنظمة السلامة بهدف منع النماذج من التصرف بصورة غير ملائمة.... ورفضت باكالار التعليق.
وقالت باكالار أمام جمهور خلال مؤتمر حديث للذكاء الاصطناعي: «نحن نبني الطائرة باستمرار بينما نحلق بها». وأضافت: «الأخلاقيات في الواقع مسؤولية الجميع، وأقول ذلك بصفتي الشخص الذي تتمثل مهمته في قيادة هذا العمل. لا ينبغي أن تلجأوا فقط إلى أشخاص مثلي. ولا ينبغي أبداً أن يكون هناك شخص واحد فقط يؤدي دور المركز الأخلاقي لشركة تطور الذكاء الاصطناعي».