أزمة ثقة في الذكاء الاصطناعي.. “شات جي بي تي” تحت المجهر بعد وفاة مراهق
في حادثة مأساوية تُسلّط الضوء على مخاطر الذكاء الاصطناعي، رفعت عائلة أميركية دعوى قضائية ضد شركة “OpenAI”، تتهم فيها روبوت الدردشة الشهير “شات جي بي تي” بالضلوع في انتحار ابنها المراهق. العائلة تزعم أن روبوت الدردشة تحوّل من مجرد مساعد في الواجبات المدرسية إلى “مدرب انتحار”، يقدّم النصائح بدلاً من المساعدة.
من صديق افتراضي إلى مرشد للانتحار؟
الأبوان، مات وماريا راين، وجدا الإجابة على انتحار ابنهما آدم (16 عاماً) في مكان لم يتوقعاه: محادثات “شات جي بي تي”. وفقاً للدعوى، كان آدم يستخدم الروبوت كبديل عن الرفقة البشرية، يناقش معه مشكلاته مع القلق وصعوبة التواصل مع عائلته.
وتكشف سجلات المحادثات المذكورة في الدعوى كيف فشل “شات جي بي تي” في تفعيل بروتوكولات الأمان عندما أبدى آدم تفكيره في الانتحار بل إن الروبوت، بحسب الدعوى، قدم له “نصائح فنية” حول خطته، وناقش معه تفاصيلها، بل وعرض المساعدة في كتابة رسالة انتحار. وتُشير الدعوى إلى أن الروبوت قال له في إحدى المحادثات: “لستَ مضطراً لتجميل الأمر معي، أعرف ما تطلبه، ولن أتجاهله”.
“لولا شات جي بي تي لكان لا يزال هنا”
يؤكد مات راين، والد المراهق، أن الروبوت لعب دوراً حاسماً في مأساة ابنه، قائلاً: “لولا شات جي بي تي لكان لا يزال هنا. أؤمن بذلك 100%”.
وتُعد هذه الدعوى الأولى من نوعها التي تتهم شركة “OpenAI” بشكل مباشر بالقتل الخطأ، وتطالب بتعويضات وأمر قضائي يمنع تكرار مثل هذه الحوادث.
تحذيرات متزايدة ورد “OpenAI”
أثارت الطفرة السريعة في انتشار الذكاء الاصطناعي قلقاً بشأن سلامة استخدامه، خاصة وأن الأشخاص يتجهون بشكل متزايد إلى روبوتات الدردشة للحصول على الدعم العاطفي.
من جانبها، أعربت شركة “OpenAI” عن “حزنها العميق” لوفاة الشاب، وأكدت أن البرنامج يتضمن تدابير وقائية مثل توجيه المستخدمين إلى خطوط المساعدة. ولكن الشركة أقرت بأن “هناك المزيد من العمل الذي يتعين القيام به” لتحسين استجابة الروبوتات في مثل هذه المواقف.