تواجه شركة " OpenAI " دعوى قضائية جديدة في الولايات المتحدة تتعلق بسلامة استخدام أدوات الذكاء الاصطناعي، بعدما رفعت أسرة شابة أمريكية دعوى تتهم فيها منصة "تشات جي بي تي" بعدم اتخاذ الإجراءات الكافية للتعامل مع مؤشرات السلوك الانتحاري قبل وفاتها.
وبحسب تفاصيل الدعوى، تقدمت والدة الشابة أليس كاريير، التي توفيت في يوليو 2025، بإجراءات قانونية تتهم فيها الشركة بالإهمال والتسبب غير المباشر في الوفاة، مطالبة المحكمة بإلزام OpenAI بتعزيز أنظمة الحماية والرقابة داخل منصاتها المعتمدة على الذكاء الاصطناعي.
وتشير أوراق القضية إلى أن الشابة كانت قد أجرت سلسلة من المحادثات مع ChatGPT خلال الأشهر التي سبقت وفاتها، تضمنت حديثاً عن أفكارها الانتحارية وخططها المحتملة.
وتزعم الأسرة أن المنصة لم تتضمن آنذاك ضوابط كافية للتعامل مع مثل هذه الحالات الحساسة، سواء من خلال إنهاء المحادثة، أو توجيه المستخدم إلى جهات الدعم النفسي المتخصصة، أو اتخاذ إجراءات إضافية يمكن أن تسهم في الحد من المخاطر.
وأكد محامو الأسرة أن القضية تهدف إلى "تعزيز المساءلة" فيما يتعلق بكيفية تصميم وتشغيل أنظمة الذكاء الاصطناعي عند التعامل مع المستخدمين الذين يواجهون أزمات نفسية حادة.
وتعد هذه القضية أحدث حلقة في سلسلة من الدعاوى والانتقادات المتعلقة بسلامة تطبيقات الذكاء الاصطناعي التفاعلية.
حالات معقدة
فخلال العامين الماضيين، واجهت شركات تطوير روبوتات المحادثة، بما فيها OpenAI، تساؤلات متزايدة حول قدرتها على التعامل مع الحالات النفسية المعقدة، خاصة عندما يلجأ بعض المستخدمين إلى هذه الأدوات بحثاً عن الدعم أو المشورة.
كما شهدت الساحة القانونية قضايا أخرى اتُهمت فيها أنظمة ذكاء اصطناعي بتعزيز أفكار وهمية أو تقديم نصائح اعتُبر أنها أسهمت في نتائج مأساوية، ما دفع خبراء التقنية والأخلاقيات إلى المطالبة بإجراءات رقابية أكثر صرامة، معلومات السلامة الخاصة بـ ChatGPT.
وفي مواجهة هذه المخاوف، أدخلت OpenAI خلال الفترة الماضية مجموعة من التحديثات الهادفة إلى تعزيز السلامة الرقمية للمستخدمين.
وشملت هذه الخطوات إطلاق أدوات رقابة أبوية، وتطوير آليات لرصد المحتوى المرتبط بإيذاء النفس أو الانتحار، إضافة إلى ميزات تسمح للمستخدمين البالغين، في حال اختيارهم ذلك، بطلب المساعدة أو التواصل مع جهات داعمة عند ظهور مؤشرات خطر.
وتؤكد الشركة باستمرار أن تطوير أنظمة الذكاء الاصطناعي يتم وفق معايير سلامة متقدمة، مع العمل بشكل متواصل على تحسين قدرتها على اكتشاف الحالات الحرجة والتعامل معها بطريقة أكثر فاعلية.
اختبار مهم
ويرى مراقبون أن هذه القضية قد تشكل اختباراً مهماً لمسؤولية شركات الذكاء الاصطناعي تجاه مستخدميها، خاصة مع التوسع السريع في استخدام روبوتات المحادثة في الحياة اليومية.
فمع تحول هذه الأنظمة إلى أدوات يعتمد عليها ملايين الأشخاص للحصول على المعلومات والمشورة والتفاعل اليومي، تتزايد الدعوات لوضع أطر قانونية وأخلاقية أكثر وضوحاً تحدد حدود المسؤولية وآليات الحماية المطلوبة.
وفي انتظار ما ستسفر عنه الإجراءات القضائية، تعيد القضية فتح النقاش العالمي حول التوازن بين الابتكار التقني وسلامة المستخدمين، في وقت يشهد فيه قطاع الذكاء الاصطناعي نمواً غير مسبوق وتأثيراً متزايداً في مختلف جوانب الحياة.