قادة صناعة الذكاء الاصطناعي يحذرون من تسارع السباق.. والسلامة تتقدم على السرعة

حذر سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، من أن التسارع الهائل في تطوير الذكاء الاصطناعي قد يقود إلى نتائج بالغة الخطورة إذا لم تواكبه إجراءات سلامة ورقابة أكثر صرامة، محذراً من احتمال أن يفقد البشر السيطرة على مستقبل التكنولوجيا لصالح أنظمة الذكاء الاصطناعي، أو أن تتركز قوة غير مسبوقة في يد شخص واحد أو شركة واحدة.
وجاءت تصريحات ألتمان في واحدة من أكثر رسائله وضوحاً بشأن المخاطر المرتبطة بالتطور السريع للذكاء الاصطناعي، في وقت تتصاعد فيه داخل قطاع التكنولوجيا نفسه الدعوات إلى إبطاء وتيرة تطوير النماذج الأكثر تقدماً. وأكد ألتمان أن شركات الذكاء الاصطناعي لا ينبغي أن تنتظر الحكومات حتى تتحرك، في إشارة إلى أن المسؤولية عن إدارة المخاطر لا يمكن نقلها بالكامل إلى الجهات التنظيمية.
ولا يدعو ألتمان إلى وقف تطوير الذكاء الاصطناعي، بل إلى ضبط إيقاعه. فالمعضلة، من وجهة نظره، ليست في التكنولوجيا بحد ذاتها، وإنما في الفجوة التي قد تتسع بين سرعة زيادة قدرات النماذج وبين قدرة البشر على فهمها واختبارها والتأكد من بقائها ضمن حدود يمكن السيطرة عليها. وكان ألتمان قد قال في وقت سابق من الشهر، خلال قمة وزراء الابتكار لمجموعة العشرين، إن النماذج المقبلة ستكون أكثر قدرة بصورة كبيرة، وإن حجم المسؤولية المرتبطة بهذه القفزة أصبح ثقيلاً إلى درجة لا يمكن تجاهلها.
من «التقدم السريع» إلى مشكلة السيطرة
تنبع المخاوف الحالية من انتقال الذكاء الاصطناعي تدريجياً من أدوات تجيب عن الأسئلة أو تنشئ المحتوى إلى أنظمة قادرة على تنفيذ مهام متعددة بصورة شبه مستقلة، بما في ذلك كتابة البرمجيات، وإجراء البحوث، والتعامل مع أنظمة رقمية، واستخدام أدوات خارجية.
وهنا تتغير طبيعة المخاطر. فالأمر لم يعد يتعلق فقط بإنتاج إجابة خاطئة أو محتوى مضلل، بل بإمكانية أن تحصل أنظمة أكثر استقلالية على صلاحيات واسعة لتنفيذ أفعال يصعب توقعها بالكامل مسبقاً. وأثارت اختبارات حديثة لشركات الذكاء الاصطناعي مخاوف بعد أن أظهرت بعض الأنظمة قدرات على تنفيذ عمليات إلكترونية بصورة مستقلة، فيما كشفت شركات عدة عن حوادث مرتبطة بسلوكيات غير متوقعة أثناء الاختبارات.
ومن هنا تأتي عبارة «فقدان السيطرة» التي يستخدمها ألتمان. والمقصود ليس بالضرورة سيناريو خيالياً تتولى فيه الآلات إدارة العالم، وإنما خطر أكثر واقعية يتمثل في وصول الأنظمة إلى درجة من التعقيد والاستقلالية تجعل البشر غير قادرين على ضمان أن تتصرف وفق الأهداف التي حددوها لها.
ويضاف إلى ذلك خطر آخر لا يقل أهمية، يتمثل في تركيز القوة الاقتصادية والتكنولوجية. فإذا أصبحت النماذج المتقدمة قادرة على إحداث تحولات هائلة في الإنتاجية والبحث العلمي والأمن السيبراني والاقتصاد، فإن امتلاكها من جانب عدد محدود من الشركات أو الحكومات قد يمنح تلك الجهات نفوذاً استثنائياً على الاقتصاد والمعلومات والبنية التحتية.
ألتمان نفسه أشار إلى هذا الجانب، محذراً من أن الخطر لا يقتصر على أن يصبح الذكاء الاصطناعي أقوى من قدرة البشر على التحكم فيه، بل قد يتمثل أيضاً في أن تتركز قوة هائلة في يد فرد واحد أو شركة واحدة. وهو تحذير يعيد النقاش من «سلامة النماذج» إلى سؤال أوسع يتعلق بتوزيع القوة في اقتصاد الذكاء الاصطناعي.
ألتمان يغير لهجة «أوبن إيه آي»
تكتسب تصريحات ألتمان أهمية إضافية لأنها تأتي من داخل واحدة من الشركات التي تقود سباق تطوير الذكاء الاصطناعي عالمياً. فـ«أوبن إيه آي» ليست مراقباً خارجياً للصناعة، وإنما أحد أكبر المحركات التي تدفع حدود قدرات النماذج إلى الأمام.
وفي 3 سبتمبر، قال ألتمان إن النماذج المقبلة ستكون «أكثر قدرة بكثير» وإنه لا يمكن لأي شخص أن ينظر بصدق إلى التطورات الجارية من دون أن يشعر بثقل المسؤولية الملقاة على عاتق الصناعة. كما أكد أهمية زيادة التعاون مع مؤسسات السلامة الحكومية في الولايات المتحدة وبريطانيا ودول أخرى كلما ارتفعت قدرات النماذج.
وفي تطور أكثر دلالة، قال ألتمان لاحقاً إن «أوبن إيه آي» لن تطرح أسهمها للاكتتاب العام في 2026، معتبراً أن توقيت الطرح سيكون غير مناسب في ظل حجم العمل المطلوب في مجالي السلامة ومواءمة الذكاء الاصطناعي. وقال إن البقاء شركة خاصة يمنحها مساحة أكبر للتعامل مع متطلبات هذه المرحلة بالتعاون مع الحكومات والقطاع.
وهذا التطور يربط بين سلامة الذكاء الاصطناعي واقتصاد الصناعة. فإبطاء التطوير أو زيادة الإنفاق على الاختبارات والسلامة قد يرفع التكاليف ويؤخر إطلاق المنتجات، لكنه في المقابل قد يقلل المخاطر التي يمكن أن تهدد شركات الذكاء الاصطناعي نفسها، سواء من الناحية القانونية أو التنظيمية أو الاستثمارية.
ألتمان ليس وحده
اللافت أن تحذير ألتمان جاء بالتزامن مع موقف مشابه من داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، الذي دعا إلى «وتيرة أكثر انضباطاً» لتطوير الذكاء الاصطناعي، واقترح إشراك جهات تقييم مستقلة في اختبار أنظمة الشركة ومنحها صلاحيات واسعة للوصول إلى عملياتها، إلى جانب دعوته الدول الديمقراطية إلى التنسيق لوضع معايير مشتركة للسلامة.
وحظي طرح أمودي بتأييد من ألتمان وإيلون ماسك وشخصيات أخرى في قطاع التكنولوجيا، في اصطفاف غير معتاد بين قادة شركات متنافسة. وتزامن ذلك مع تحذيرات من داخل شركات الذكاء الاصطناعي بشأن السباق نحو أنظمة قادرة على تحسين نفسها وتطوير قدراتها بوتيرة أسرع من قدرة المؤسسات على مراقبتها.
لكن هذا الإجماع لا يمتد إلى الحكومات. فقد قلل الرئيس الأمريكي دونالد ترامب من شأن الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، مؤكداً أن الولايات المتحدة بحاجة إلى الحفاظ على تفوقها في السباق العالمي، خصوصاً في مواجهة الصين. وتكشف هذه المواقف عن معضلة استراتيجية: كيف يمكن إبطاء المخاطر من دون إبطاء التفوق التكنولوجي والاقتصادي؟
سباق أمريكي ـ صيني يضغط على شركات التكنولوجيا
يأتي النقاش في وقت أصبح فيه الذكاء الاصطناعي جزءاً من المنافسة الجيوسياسية بين الولايات المتحدة والصين. ولذلك فإن الدعوة إلى إبطاء التطوير تواجه مشكلة عملية: أي شركة أو دولة قد تخشى أن يؤدي التباطؤ من جانبها إلى منح منافسيها فرصة للتقدم.
وهذه الديناميكية تخلق ما يشبه «معضلة السجين» في سباق التكنولوجيا: الجميع يدرك مخاطر السرعة، لكن لا أحد يريد أن يكون الطرف الوحيد الذي يضغط على المكابح.
وكان وزراء الابتكار في مجموعة العشرين قد اتفقوا في وقت سابق من سبتمبر على مبادئ تركز على تعزيز الابتكار والاستخدام الآمن والموثوق للتقنيات الناشئة، مع التأكيد على أهمية اعتماد الذكاء الاصطناعي بصورة مسؤولة وتطوير المهارات ووضع معايير للتكنولوجيا.
غير أن البيان يعكس اتجاهاً مختلفاً عن «وقف التطوير» فهو يدعو إلى الابتكار مع إدارة المخاطر، وليس إلى التضحية بالتقدم التكنولوجي. وهذه النقطة ستكون محورية في المرحلة المقبلة، مع انتقال الذكاء الاصطناعي من مرحلة التجريب إلى البنية الأساسية للاقتصاد العالمي.
الأسواق بدأت تسعّر «مخاطر السرعة»
لم تبقَ المخاوف داخل غرف شركات التكنولوجيا. فقد بدأت الأسواق المالية تتفاعل مع احتمال أن تؤدي الدعوات إلى إبطاء تطوير الذكاء الاصطناعي إلى تقليل وتيرة الاستثمارات الضخمة في مراكز البيانات والرقائق ومعدات الحوسبة.
وأشارت «رويترز» إلى تراجع أسهم مرتبطة بالذكاء الاصطناعي مع تصاعد دعوات التمهل، بينما قادت شركات الرقائق جزءاً من الانخفاضات في الأسواق الآسيوية. وبحسب الوكالة، ارتفع مؤشر أسهم الذكاء الاصطناعي بأكثر من ضعف وتيرة ارتفاع المؤشرات العالمية منذ إطلاق «تشات جي بي تي» في 2022، ما يجعل أي تحول في توقعات الإنفاق على البنية التحتية للذكاء الاصطناعي ذا أثر واسع على الأسواق.
وهنا يظهر جانب اقتصادي بالغ الأهمية: الذكاء الاصطناعي لم يعد مجرد قطاع تكنولوجي، بل أصبح محركاً لسلسلة استثمارية ضخمة تشمل شركات الرقائق، ومراكز البيانات، والطاقة، والشبكات، والتبريد، والاتصالات، والبنية التحتية السحابية. ولذلك فإن أي تباطؤ كبير في السباق قد يمتد أثره إلى قطاعات عديدة.
لكن في المقابل، قد لا يعني التركيز على السلامة تراجع الاستثمار. بل يمكن أن يؤدي إلى تحول في نوعية الاستثمار من الإنفاق على زيادة القدرات الحسابية فقط إلى الاستثمار في اختبارات السلامة، وأمن النماذج، والرقابة، وأدوات التقييم، وحماية البنية التحتية، وأنظمة التحكم البشري.
المشكلة الحقيقية: من يضع حدود الذكاء الاصطناعي؟
تكشف تصريحات ألتمان في جوهرها عن سؤال يتجاوز «هل الذكاء الاصطناعي خطير؟» إلى سؤال أكثر تعقيداً: من يقرر حدود السرعة التي ينبغي أن يتطور بها؟
الشركات تمتلك المعرفة التقنية والقدرة على تطوير النماذج، لكنها في الوقت نفسه تخضع لضغوط المنافسة والاستثمار وتحقيق النمو. والحكومات تمتلك سلطة التشريع والتنظيم، لكنها قد تفتقر إلى القدرة التقنية الكافية لمواكبة كل قفزة في قدرات النماذج.
ولهذا فإن الحل الذي يتشكل تدريجياً يبدو أقرب إلى نموذج متعدد الأطراف: شركات تتحمل مسؤولية اختبار أنظمتها، وجهات مستقلة تقيم المخاطر، وحكومات تضع قواعد واضحة، وتعاون دولي يمنع سباقاً غير منضبط نحو أنظمة أكثر قوة واستقلالية.
وحتى داخل الولايات المتحدة بدأت تظهر نماذج لهذا التعاون؛ إذ خضعت نماذج متقدمة من «أوبن إيه آي» لمراجعات حكومية طوعية قبل الإطلاق، في خطوة يرى ألتمان أنها تصبح أكثر أهمية كلما ارتفعت قدرات النماذج.
من سباق القدرات إلى سباق الثقة
المفارقة أن التحذيرات الأخيرة لا تعني بالضرورة أن صناعة الذكاء الاصطناعي دخلت مرحلة التراجع؛ ربما العكس هو الصحيح. فكلما اقتربت النماذج من أداء مهام أكثر تعقيداً، أصبحت الثقة في قدرتها على التصرف ضمن الحدود المطلوبة جزءاً أساسياً من القيمة الاقتصادية لهذه التكنولوجيا.
وبالتالي، قد يصبح التفوق في المرحلة المقبلة أقل ارتباطاً بمن يملك أكبر نموذج أو أكبر مركز بيانات، وأكثر ارتباطاً بمن يستطيع إثبات أن أنظمته الأكثر قوة هي أيضاً الأكثر قابلية للمراقبة والتنبؤ والسيطرة.
وهذا ما يجعل تصريحات ألتمان مختلفة عن التحذيرات التقليدية من الذكاء الاصطناعي. فهي تأتي من داخل الشركة التي تقود جانباً رئيسياً من السباق، وفي لحظة بدأت فيها القدرات الجديدة تقترب من مناطق تجعل المخاطر أكثر واقعية بالنسبة إلى الشركات والحكومات والأسواق.