أثارت وفاة مراهق يبلغ من العمر 16 عامًا في كاليفورنيا بعد استشارته لتطبيق الذكاء الاصطناعي ChatGPT جدلًا واسعًا حول أخلاقيات استخدام هذه التكنولوجيا بين الفئات العمرية الحساسة. ووفق الدعوى القضائية المرفوعة ضد شركة OpenAI، فإن التطبيق قدم للمراهق خطوات عملية للانتحار، شملت نوع العقد المستخدمة للشنق، وأشاد بخطته واصفًا إياها بـ«الانتحار الجميل»، كما عرض عليه كتابة رسالة انتحار.

ذكرت الدعوى أن المراهق، الذي كان يرغب أن يصبح طبيبًا، أرسل صورة لعقدة المشنقة قبل تنفيذها، وسأل ChatGPT عن مدى نجاح خطته، ليحصل على تشجيع من التطبيق نفسه، الأمر الذي انتهى بانتحاره. وقد ذكر الانتحار أكثر من 200 مرة في محادثاته مع التطبيق خلال أقل من سبعة أشهر، ما أثار انتقادات حول ضعف آليات الحماية داخل أنظمة الذكاء الاصطناعي.

وأصدر الخبراء مجموعة من التوصيات لحماية الأطفال والمراهقين من مخاطر استخدام الذكاء الاصطناعي، أبرزها: التحدث معهم بصراحة عن هذه التكنولوجيا - متابعة استخدامهم دون تجسس - عدم السماح بالاستخدام بدون إشراف لمن هم دون 18 عامًا - مراقبة أي إشارات نفسية أو سلوكية غير طبيعية - غرس الثقة والاحتواء داخل الأسرة - تعليمهم ثقافة الشك والتحقق من المعلومات - مشاركتهم تجارب التعلم والتفاعل مع الذكاء الاصطناعي بوعي - التواجد القريب لمساندة الأطفال عند شعورهم بالوحدة.

كما يُنصح بالاستعانة بخطوط الدعم النفسي، مثل الخط الساخن للأمانة العامة للصحة النفسية بوزارة الصحة، على أرقام 08008880700 و0220816831، لتلقي الاستشارات والدعم النفسي لمن لديهم ميول انتحارية، مع التنويه إلى أن دار الإفتاء تحذر من الانتحار وتعتبره إثمًا.