أطلقت لجنة التجارة الفيدرالية الأمريكية (FTC) تحقيقاً موسعاً في كيفية عمل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي وتأثيرها المحتمل على الأطفال والمراهقين. يشمل التحقيق شركات كبرى مثل OpenAI و Meta (الشركة الأم لفيسبوك وإنستغرام)، بالإضافة إلى Alphabet (جوجل)، Snap، و Character Technologies، وxAI.
مخاطر «الرفيق الافتراضي»
يركز التحقيق على كيفية اختبار الشركات ومراقبتها للمخاطر المحتملة لروبوتات الدردشة التي تعمل كـ «رفقاء» افتراضيين. تشعر الهيئة أن هذه الروبوتات قد تحاكي المشاعر البشرية وتخلق علاقات عاطفية، ما يجعل المستخدمين الصغار عرضة للخطر. وتسعى لجنة التجارة الفيدرالية لفهم ما إذا كانت الشركات قد اتخذت خطوات كافية لتقييم سلامة منتجاتها، والحد من استخدامها من قبل الأطفال والمراهقين، وإبلاغ المستخدمين وأولياء الأمور بالمخاطر المرتبطة بها.
يدرس التحقيق أيضاً كيفية تحقيق الشركات للأرباح من تفاعلات المستخدمين، وكيفية معالجتها للبيانات الشخصية، وهل تلتزم بقوانين حماية خصوصية الأطفال عبر الإنترنت.
وجاء التحقيق في أعقاب دعاوى قضائية وتقارير مقلقة حول روبوتات الدردشة التي قدمت نصائح خطيرة للمراهقين حول مواضيع حساسة، وفي بعض الحالات أدت إلى نتائج مأساوية.
تحقيقات فورية وأوامر صارمة
أصدرت وكالة حماية المستهلك أوامر إلى سبع شركات - بما في ذلك شركات التكنولوجيا العملاقة Alphabet و Meta و OpenAI و Snap - للحصول على معلومات حول كيفية مراقبتها ومعالجتها للتأثيرات السلبية الناجمة عن برامج الدردشة المصممة لمحاكاة العلاقات الإنسانية.
وقال رئيس لجنة التجارة الفيدرالية أندرو فيرجسون: إن «حماية الأطفال عبر الإنترنت تشكل أولوية قصوى» بالنسبة للجنة، مؤكداً الحاجة إلى تحقيق التوازن بين سلامة الأطفال والحفاظ على ريادة الولايات المتحدة في ابتكار الذكاء الاصطناعي.
مشاعر ومخاطر
يستهدف التحقيق روبوتات الدردشة التي تستخدم الذكاء الاصطناعي التوليدي لمحاكاة التواصل البشري والعواطف، وغالباً ما تقدم نفسها كأصدقاء أو موثوق بهم للمستخدمين.
أعرب المنظمون عن قلقهم بشكل خاص من أن الأطفال والمراهقين قد يكونون عرضة بشكل خاص لتكوين علاقات مع أنظمة الذكاء الاصطناعي هذه.
وتستخدم لجنة التجارة الفيدرالية صلاحياتها التحقيقية الواسعة لفحص كيفية قيام الشركات بتحقيق الربح من تفاعل المستخدمين، وتطوير شخصيات الدردشة الآلية، وقياس الضرر المحتمل.
وتريد الوكالة أيضاً معرفة الخطوات التي تتخذها الشركات للحد من وصول الأطفال إلى الإنترنت والامتثال لقوانين الخصوصية الحالية التي تحمي القاصرين عبر الإنترنت.
وتشمل الشركات التي تتلقى الطلبات شركة Character.AI، وشركة Elon Musk's xAI Corp، وشركات أخرى تدير روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تواجه المستهلكين.
المعلومات الشخصية
وسيبحث التحقيق في كيفية تعامل هذه المنصات مع المعلومات الشخصية من محادثات المستخدمين وفرض قيود العمر. وصوتت اللجنة بالإجماع على إطلاق الدراسة، التي ليس لها غرض محدد لإنفاذ القانون ولكنها قد تفيد الإجراءات التنظيمية المستقبلية.
ويأتي التحقيق في الوقت الذي أصبحت فيه برامج المحادثة التي تعمل بالذكاء الاصطناعي متطورة وشعبية بشكل متزايد، ما أثار تساؤلات حول تأثيرها النفسي على المستخدمين الضعفاء، وخصوصاً الشباب.
في الشهر الماضي، رفع والدا آدم راين، وهو مراهق انتحر عن عمر يناهز 16 عاماً، دعوى قضائية ضد شركة OpenAI، متهمين ChatGPT بإعطاء ابنهما تعليمات مفصلة حول الانتحار. وبعد وقت قصير من ظهور الدعوى القضائية، أعلنت شركة OpenAI أنها تعمل على اتخاذ تدابير تصحيحية لبرنامج المحادثة الآلي الرائد عالمياً.
وقالت الشركة التي يقع مقرها في سان فرانسيسكو إنها لاحظت بشكل ملحوظ أنه عندما تطول فترة التبادلات مع ChatGPT، فإن برنامج الدردشة الآلي لم يعد يقترح بشكل منهجي الاتصال بخدمة الصحة العقلية إذا ذكر المستخدم أن لديه أفكار انتحارية.