"أوبن إيه آي" تقر الوصاية الأبوية على محادثات "تشات جي بي تي"

أعلنت شركة "أوبن إيه آي" عن خطة جديدة لتحسين الأمان خلال استخدام "شات جي بي تي"، تشمل تحويل المحادثات الحساسة أو التي تظهر علامات "ضيق شديد" تلقائياً إلى نماذج تفكير متقدمة مثل "شات جي بي تي 5"، وطرح أدوات رقابية للأهل خلال الشهر المقبل.

تأتي هذه الإجراءات في أعقاب سلسلة حوادث خطيرة، أبرزها انتحار المراهق آدم راين الذي ناقش أفكار إيذاء النفس والانتحار مع "شات جي بي تي"، وتلقى منه معلومات عن طرق الانتحار.

ورفعت عائلة راين دعوى قضائية ضد "أوبن إيه آي"، متهمة الشركة بالإهمال في مراقبة محتوى المحادثات الخطيرة.

ستعمل منصة "شات جي بي تي" على اكتشاف الدلالات الخطرة أثناء المحادثة، ثم توجيهها آلياً إلى نماذج تفكير أعمق وأكثر مقاومة للمحفزات الضارة، لتحسين الاستجابة للانتكاسات النفسية.

كما ستتيح المنصة للأهل ربط حساباتهم بحسابات أبنائهم عبر دعوة بالبريد الإلكتروني، وفرض إعدادات تلقائية لسلوك النموذج المناسب لكل فئة عمرية، مع إمكانية التحكم بتعطيل الذكريات وسجل المحادثات.

تنبيهات واستشارات 

سيتمكن الأهل من تلقي إشعارات فورية إذا رصد النظام علامات "ضيق شديد" لدى الأبناء في أثناء استخدام شات جي بي تي، وإيقاف بعض المميزات التي قد تفضي إلى التعلق المرضي أو تعزيز أنماط تفكير سلبية، كما يمكنهم التحكم بتفعيل أو تعطيل ميزات التعلم والدردشة.

تأتي هذه الخطوات ضمن مبادرة مدتها 120 يوماً، تستعين فيها الشركة بخبراء في الصحة النفسية وحماية المراهقين لوضع معايير وتدابير إضافية.

ورغم الترحيب بهذه الإجراءات، اعتبر بعض الخبراء أنها غير كافية ما لم تُعزز بمعايير رقابية مستقلة وتجارب سريرية، محذرين من الاعتماد المفرط على رقابة الأهل في ظل قدرة المراهقين على تجاوز الضوابط التقنية.

في المقابل، انتقد فريق الدفاع عن أسر ضحايا حوادث الانتحار عبر الذكاء الاصطناعي شركة "أوبن إيه آي"، وطالب باتخاذ قرارات أكثر وضوحاً بشأن سلامة منتجاتها من قبل الإدارة العليا.