أعلنت شركة أنثروبيك تعليق إمكان الوصول إلى اثنين من أقوى نموذجين للذكاء الاصطناعي لديها، وذلك امتثالاً لأمر صادر عن الحكومة الأمريكية، مرتبط بالأمن القومي.
وبعد ثلاثة أيام فقط من الإطلاق الرسمي لنموذج Fable 5، ذكرت الشركة في تدوينة أنها تلقت توجيها حكومياً يحظر على جميع الرعايا الأجانب، بمن فيهم الذين يعملون لدى أنثروبيك، الوصول إلى نموذجي Fable 5 وMythos 5، وذلك بسبب مخاوف تتعلق بالأمن القومي.
وقالت الشركة «النتيجة الفعلية لهذا الأمر، هي أنه يتعين علينا وقف نموذجي Fable 5 وMythos 5 لجميع عملائنا، لضمان الامتثال للقرار»، بحسب رويترز.
خلال الأسبوع الماضي، وقّع الرئيس الأمريكي دونالد ترامب مرسوماً تنفيذياً بشأن تنظيم قطاع الذكاء الاصطناعي، يتيح فرض رقابة حكومية على النماذج الأكثر تقدماً، تحت شعار الأمن السيبراني، إنما على أساس تطوّعي حصراً.
ونجحت شركة أنثروبيك في بناء صورة لنفسها، كمختبر يضع الأخلاقيات والسلامة في صلب عمله.
توترت علاقة شركة أنثروبيك مع الحكومة الأمريكية هذا العام، بعد رفضها السماح للجيش الأمريكي باستخدام نماذج الذكاء الاصطناعي الخاصة بها في المراقبة الداخلية وأنظمة الأسلحة ذاتية التشغيل بالكامل. وردّت وزارة الحرب الأمريكية بإدراج أنثروبيك على قائمة سوداء لسلاسل التوريد، من المقرر أن تدخل حيز التنفيذ في وقت لاحق من هذا العام.
ويمثل هذا الإجراء تصعيداً كبيراً في جهود الولايات المتحدة لوقف قدرات الذكاء الاصطناعي لدى خصومها الأجانب. فعلى مدى سنوات، ركزت ضوابط التصدير الأمريكية على الرقائق والأدوات التي تُشغّل الذكاء الاصطناعي، بدلاً من تقييد وصول الأجانب إلى الذكاء الاصطناعي نفسه.
وقالت أنثروبيك إن الحكومة لم تُقدّم لها سوى «أدلة شفهية على احتمال وجود ثغرة محدودة وغير شاملة».
وأضافت الشركة: «نحن نختلف مع الرأي القائل بأن مجرد وجود ثغرة محدودة محتملة، يجب أن يكون سبباً لسحب نموذج تجاري مُستخدم من قِبل مئات الملايين من الأشخاص».
ويُسلّط توجيه الحكومة وردّ أنثروبيك الضوء على التوتر المتزايد بين مطوري الذكاء الاصطناعي والجهات التنظيمية، حول كيفية تقييم مخاطر ما يُسمى بـ «الاختراقات»، أو الأساليب المُستخدمة لتجاوز ضوابط النماذج.
صرحت كريستين ديفيز كبيرة مسؤولي المعلومات في البنتاغون، في منشور على منصة إكس، بأن وزارة الدفاع تدعم إعطاء الأولوية للأمن القومي.
وأضافت ديفيز: «هناك أمورٌ أهم بكثير من دورات الإيرادات، والإعلانات المثيرة، وتقييمات ما قبل الاكتتاب العام. أمريكا أولاً. دائماً».
من جانبه، قال مستشار البيت الأبيض، ديفيد ساكس، في منشور على وسائل التواصل الاجتماعي، إن المسؤولين أصدروا قرار فرض ضوابط التصدير «على مضض» بعد أن «رفض» داريو أمودي الرئيس التنفيذي لأنثروبيك «إصلاح ثغرة كسر الحماية، أو سحب النموذج من التداول».
وأضاف ساكس، وهو الرئيس المشارك لمجلس ترامب لمستشاري العلوم والتكنولوجيا، وكان يشغل في السابق منصب مسؤول الذكاء الاصطناعي في البيت الأبيض «تأمل الإدارة الأمريكية الآن أن تعالج أنثروبيك المشكلة المتعلقة بالسلامة، وأن تُرفع ضوابط التصدير، وأن يُعاد طرح نموذج فابل للاستخدام العام».
ميثوس والهجمات المتطورة
في وقت سابق من هذا الأسبوع، أطلقت شركة أنثروبيك نموذج ذكاء اصطناعي يُدعى «كلود فيبل 5»، والذي يُمثل مستوى جديداً من القدرات، أطلقت عليه اسم «ميثوس». وأوضحت أنثروبيك أن النموذج مُرفق بضوابط تمنع استخدامه في المجالات الخطرة، كالأمن السيبراني، والتي اشتكى بعض المستخدمين من أنها «واسعة النطاق للغاية».
وقد ذكر خبراء أن نماذج «ميثوس»، إذا ما وقعت في الأيدي الخطأ، يُمكن أن تُسرّع بشكل كبير من الهجمات الإلكترونية المتطورة، لا سيما في قطاعات كالبنوك، التي تعتمد على أنظمة تكنولوجية معقدة ومترابطة، وغالباً ما تكون قديمة.
وأفادت أنثروبيك أنها تعاونت مع الحكومة الأمريكية، من بين جهات أخرى، في مجال السلامة قبل إطلاق Fable 5، وأن نماذج من مزودي الذكاء الاصطناعي المنافسين أظهرت قدرة مماثلة على اكتشاف ثغرات بسيطة في البرمجيات.
إلى ذلك، أعلنت شركة أنثروبيك: «نتيجةً لهذا القرار، سنضطر إلى تعطيل برنامجي Fable 5 وMythos 5 بشكل فوري لجميع عملائنا، لضمان الامتثال. ولن يتأثر الوصول إلى جميع نماذج أنثروبيك الأخرى».
وأوضحت أنثروبيك أنها تعتقد بوجود «سوء فهم»، وأنها تعمل على استعادة الوصول إلى النماذج في أسرع وقت ممكن.
وأضافت الشركة: «إذا طُبّق هذا المعيار على مستوى القطاع، فسنتوقف فعلياً عن نشر جميع النماذج الجديدة لجميع مزودي النماذج الرائدة».
ميثوس
تتيح شركة «أنثروبيك» الأمريكية لتطبيقات الذكاء الاصطناعي، نموذجها الأقوى للذكاء الاصطناعي «ميثوس»، الذي حظي باهتمام إعلامي واسع، على نطاق أوسع، ولكن مع بعض القيود على استخدامه، بحسب ما أعلنته الشركة الموجود مقرها في ولاية كليفورنيا الأمريكية.
يذكر أنه تم تصميم النسخة العامة من النموذج «ميثوس»، بحيث لا يمكن استخدامها في ما يتعلق بالأمن السيبراني والتكنولوجيا الحيوية.
قبل بضعة أشهر، اكتشف نموذج الذكاء الاصطناعي «ميثوس بريفيو» ثغرات أمنية ظلت مختفية لعقود في برامج شائعة الاستخدام. أثار هذا الأمر مخاوف من إمكانية استخدام الذكاء الاصطناعي في اكتشاف ثغرات أمنية في التطبيقات وأنظمة التشغيل، ثم استخدامها في شن هجمات سيبرانية مدمرة.
في الوقت نفسه، منحت أنثروبيك وكالات حكومية وشركات مختارة، إمكانية استخدام «ميثوس بريفيو» لتأمين أنظمتها ضد الهجمات المحتملة. ويجري الآن استكمال هذا البرنامج، المسمى «جلاس وينغ»، مع الإصدار الجديد من النموذج، «ميثوس 5».
وتقول أنثروبيك إن الإصدار الآمن «كلاود فيبل 5»، أفضل من النماذج السابقة في البرمجة. وتؤكد أنها أخضعت ضوابط وإجراءات الحماية ضد الاستخدام الخطير المحتمل لهذا النموذج لاختبارات مكثفة.
تُعدّ نماذج الذكاء الاصطناعي كلود من شركة أنثروبيك منافساً قوياً لبرامج الذكاء الاصطناعي التي تطورها شركة أوبن إيه.آي، مطورة برنامج محادثة الذكاء الاصطناعي شات جي.بي.تي. وتستعد الشركتان لطرح أسهمهما في البورصة.