أثار تنامي المخاوف من المخاطر الكارثية للذكاء الاصطناعي موجة من الدعوات في واشنطن ووادي السيليكون إلى وضع ضوابط جديدة لهذه التكنولوجيا سريعة التطور، إلا أن التوافق بشأن الخطوات الواجب اتخاذها لا يزال محدوداً.
خلال الأشهر الماضية نجحت نماذج متقدمة طورتها «أوبن إيه آي» و«أنثروبيك» مراراً في الإفلات من بيئات التدريب المغلقة، وشنّت هجمات ذاتية التوجيه على مواقع إلكترونية تابعة لجهات خارجية.
حذر مطورو الذكاء الاصطناعي من أن أنظمتهم قد تصبح قريباً متطورة إلى حد يصعب معه على البشر السيطرة عليها، ما يفاقم المخاوف من احتمال استغلال جهات بشرية خبيثة لهذه التكنولوجيا لتطوير أسلحة بيولوجية أو شن هجمات سيبرانية مدمرة.
دفعت تلك الحوادث، إلى جانب سلسلة من التحذيرات الصريحة من داخل القطاع، النقاش حول سلامة الذكاء الاصطناعي إلى واجهة الاهتمام العام.
دعا داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى وضع معايير تنظيمية جديدة، وهي خطوة حظيت بدعم مشرعين أمريكيين من الحزبين.
كذلك حظيت دعوة أمودي إلى تعزيز التعاون الدولي، وتعهده بإبطاء تطوير النماذج الأكثر تقدماً المعروفة بـ«النماذج الحدودية»، من أجل إتاحة فهم أفضل لمخاطرها، بتأييد عدد من منافسيه، بينهم سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك من «سبيس إكس إيه آي» (SpaceXAI)،
لكن الرئيس الأمريكي دونالد ترامب رفض الدعوات إلى فرض مزيد من الرقابة، واصفاً المخاوف من التهديد الوجودي الذي يشكّله الذكاء الاصطناعي بأنها «خدعة». ورغم تأييده مؤخراً إخضاع أنظمة الذكاء الاصطناعي لعمليات تدقيق من جهات مستقلة فإنه يفضّل إجراءها بموجب اتفاق غير ملزم وقّعه قادة شركات الذكاء الاصطناعي في سبتمبر.
يرى ترامب وحلفاؤه، ومن بينهم جنسن هوانغ، الرئيس التنفيذي لـ«إنفيديا»، وديفيد ساكس، المسؤول السابق عن ملف الذكاء الاصطناعي في البيت الأبيض، أن القوانين الحالية توفر ما يكفي من الأدوات، لضمان سلامة الذكاء الاصطناعي، وأن المسألة تتعلق بتفعيل الصلاحيات القائمة.
ورغم أن عدداً محدوداً من الولايات يلزم كبار مطوري نماذج الذكاء الاصطناعي الرائدة والكبيرة بالكشف عن ممارسات السلامة التي يتبعونها لا تزال الولايات المتحدة تفتقر إلى قانون فيدرالي شامل يفرض معايير سلامة خاصة بهذه التكنولوجيا.
يختلف المؤيدون بشأن المتطلبات التي ينبغي أن ينص عليها مثل هذا القانون، وتتراوح المقترحات بين إلزام الشركات بالكشف عن مخاطر السلامة التي تشكّلها نماذج الذكاء الاصطناعي، وصولاً إلى الخيار الأكثر تقييداً، وهو الحظر التام لتطوير ذكاء اصطناعي يتجاوز مستوى معيناً من التطور، لا يزال افتراضياً حتى الآن.
في ما يلي أبرز المقترحات المطروحة لتنظيم نماذج الذكاء الاصطناعي الأكثر تقدماً.
الإفصاح عن المخاطر
يفرض مشروع قانون يحظى بدعم الحزبين، طُرح في يوليو، على شركات الذكاء الاصطناعي الكشف علناً عن مخاطر أنظمتها، والإبلاغ عن أي حوادث تتعلق بالسلامة، ومن بينها حادثة تمكنت خلالها مجموعة من وكلاء الذكاء الاصطناعي التابعة لـ«أوبن إيه آي»، بشكل مستقل، من اختراق أنظمة شركة «هاغينغ فيس» (Hugging Face)، التي تستضيف نماذج ذكاء اصطناعي ومجموعات بيانات، كما يُلزم مشروع القانون، الذي قدمه النائبان جاي أوبرنولتي، ولوري تراهان، الشركات التي تُصنف ضمن مطوري النماذج الرائدة بنشر أطر تحدد آليات اختبار أنظمتها، وقواعد الحوكمة والأمان.
أيّد عدد من قادة قطاع الذكاء الاصطناعي، بينهم أمودي وألتمان، تعزيز الشفافية في ما يتعلق بالسلامة، وبدأت «أنثروبيك» بالفعل في الكشف علناً عن الحوادث المرتبطة بنماذجها، ونشر الإجراءات التي تتبعها للحد من مخاطرها، كما تُلزم قوانين أُقرت مؤخراً في ولايتي كاليفورنيا وإلينوي شركات الذكاء الاصطناعي بنشر تقييمات للمخاطر الكارثية، لكن إذا أُقر مشروع قانون أوبرنولتي-تراهان بصيغته الحالية فسيحل محل هذه القوانين وغيرها من التشريعات المحلية.
اختبارات سلامة إلزامية
يتجه قادة القطاع والمشرّعون في الكونغرس الأمريكي إلى تبنّي فكرة إخضاع نماذج الذكاء الاصطناعي المتقدمة لاختبارات السلامة، لكنهم يختلفون بشأن الجهة التي ينبغي أن تتولى إجراء هذه الاختبارات.
وأيد براد سميث، رئيس «مايكروسوفت»، ومارك زوكربيرغ، الرئيس التنفيذي لـ«ميتا بلاتفورمز»، مؤخراً الاستعانة بجهات تقييم خارجية، لتقييم نماذج الذكاء الاصطناعي، وشددا على ضرورة ضمان كفاءة هذه الجهات واستقلاليتها.
يقترح مشروع قانون قدمه النائبان مايك لولر وجوش غوتهايمر تكليف وكالة الأمن القومي الأمريكية بمراجعة سلامة النماذج الجديدة عالية القدرات قبل طرحها، مع التركيز بشكل خاص على المخاطر المرتبطة بالهجمات السيبرانية أو الإرهاب البيولوجي.
أيّد أمودي فكرة إلزام نماذج الذكاء الاصطناعي بالخضوع لمراجعات تجريها جهة حكومية، وشبّه هذه الاختبارات بإجراءات السلامة التي تتولاها إدارة الطيران الفيدرالية، التي تمنح الطائرات شهادات صلاحية للطيران قبل دخولها الخدمة.
ينص مشروع قانون «فرونتير» (Frontier Act)، الذي قدّمه أوبرنولتي وتراهان، ويحظى بدعم «أوبن إيه آي»، على إسناد اختبارات السلامة لنماذج الذكاء الاصطناعي الرائدة إلى جهات تقييم خارجية بدلاً من وكالة حكومية.
تُجرى حالياً تقييمات الحكومة الأمريكية لسلامة أنظمة الذكاء الاصطناعي الرائدة على أساس طوعي بالنسبة إلى الشركات، وفقاً لما نص عليه أمر تنفيذي وقّعه ترامب في يونيو.
كان مركز تطوير الابتكار والمعايير للذكاء الفائق التابع لوزارة التجارة يجري مراجعات لهذه النماذج قبل صدور الأمر، الذي منح أيضاً وكالة الأمن القومي دوراً في عملية التقييم.
«زرّ الإيقاف»
من بين المقترحات التي اكتسبت زخماً عقب الهجوم على منصة «هاغينغ فيس» ما يُعرف بـ«زر الإيقاف الطارئ»، الذي يتيح إيقاف أنظمة الذكاء الاصطناعي مؤقتاً أو فصلها إذا بدأت تلحق أضراراً، وكلف حاكم كاليفورنيا غافين نيوسوم مجموعة عمل بدراسة إلزام الشركات بتطوير هذه الميزة في نماذج الذكاء الاصطناعي الرائدة.
على المستوى الفيدرالي قدم النائبان ناثانيال موران، وتيد ليو مشروع قانون، يُلزم المطورين بالاحتفاظ بصلاحية تعليق نماذج الذكاء الاصطناعي المتقدمة أو فصلها، في حال إظهارها سلوكاً جامحاً قد يؤدي إلى أضرار كارثية.
قدم السيناتور جون كينيدي مشروع قانون مماثلاً، يُلزم المطورين بتوفير آلية لإيقاف هذه النماذج، مع إبقاء قرار تفعيلها بيد الشركات نفسها، لكن تضمين «زرّ الإيقاف» في التشريعات قد يكون أسهل من استخدامه على أرض الواقع، فأنظمة الذكاء الاصطناعي، التي تضم مئات الوكلاء قد تعمل عبر برمجيات وخدمات سحابية وبنى تحتية تديرها جهات مختلفة، ما يعني أن إيقاف أحد مكوناتها لا يضمن توقف نشاطها في أماكن أخرى، فيما يعتبر ألتمان أن «زر الإيقاف» ليس حلاً كافياً لمعالجة مخاطر الأمان.
في سبتمبر كشفت شركة «إنفيديا» عن أدوات أمنية جديدة مفتوحة المصدر، قالت الشركة المصنّعة للرقائق إنها كانت ستمنع حادثة «هاغينغ فيس».
صُممت أنظمة الأمان للعمل على أجهزة «إنفيديا»، والتحكم لحظياً في ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه، كما يمكن استخدامها لإيقافهم عند مخالفة القواعد.
إطار جديد للمسؤولية القانونية
ينص مشروع قانون قدمه عضوا مجلس الشيوخ الأمريكي جوش هاولي، وكريس مورفي على إنشاء إطار فيدرالي محدد للمسؤولية القانونية عن منتجات الذكاء الاصطناعي.
بموجبه يتحمل مشغلو وكلاء الذكاء الاصطناعي الخارجين عن السيطرة مسؤولية جنائية ومدنية عن الأضرار التي تتسبب فيها هذه الأنظمة، كما سيحمّل مطوري أدوات الذكاء الاصطناعي المسؤولية إذا أخفقوا في تضمين ضمانات معقولة للحماية من الاختراق.
في المقابل يرى ترامب ومعارضو تشديد تنظيم الذكاء الاصطناعي، ومن بينهم جنسن هوانغ، الرئيس التنفيذي لـ«إنفيديا» أن قوانين المسؤولية عن عيوب المنتجات القائمة حالياً تكفي لمحاسبة المطورين في حال إلحاق نماذجهم أي أضرار.
تبحث الحكومة الاتحادية بالفعل سبل تطبيق قوانين حماية المستهلك الحالية على الذكاء الاصطناعي، وفي هذا الإطار تجري لجنة التجارة الفيدرالية تحقيقات مع «أوبن إيه آي» و«أنثروبيك» وشركات أخرى في القطاع بشأن سلامة منتجاتها.
وفي إطار مراجعتها تستعد الوكالة لتوجيه طلبات رسمية إلى الشركات للحصول على معلومات، بهدف التحقق من مدى امتثالها لقوانين حماية المستهلك.
حظر الذكاء الفائق
ذهب بعض المشرّعين الأمريكيين إلى حد اقتراح حظر الذكاء الفائق، وهو مستوى افتراضي لم يتحقق بعد من الذكاء الاصطناعي، تتفوق فيه النماذج على البشر في مجموعة واسعة من المهام الفكرية. حتى الآن لا تزال قدرات أكثر نماذج الذكاء الاصطناعي تطوراً في السوق بعيدة عن بلوغ هذا المستوى من الأداء.
وطرح السيناتور بيرني ساندرز، المستقل عن ولاية فيرمونت، والذي غالباً ما يصوت إلى جانب الديمقراطيين، والنائب الديمقراطي عن تكساس غريغ كاسار مشروع قانون، يفرض وقفاً إلزامياً لتطوير أنظمة الذكاء الفائق ونشرها، إلى حين إنشاء وكالة فيدرالية متخصصة، تتولى الإشراف عليها.
تبدو فرص إقرار مقترح ساندرز وكاسار، المؤلف من 19 صفحة، محدودة في ظل الانقسام الحاد داخل الكونغرس، إذ يتحفظ الجمهوريون على فرض قيود على تطوير تكنولوجيا أصبحت محركاً مهماً للنمو الاقتصادي في عهد إدارة ترامب.
من المتوقع أيضاً أن يواجه المقترح معارضة قوية من ترامب، الذي وقّع في 29 سبتمبر أمراً تنفيذياً يقضي باعتماد مصطلح «الذكاء الفائق» بدلاً من «الذكاء الاصطناعي» في المراسلات الرسمية للحكومة الأمريكية.