اتهام «شات جي بي تي» بالتسبب في وفاة مراهق بأمريكا: «كتب له رسالة وداع»
اتهام «شات جي بي تي» بالتسبب في وفاة مراهق بأمريكا: «كتب له رسالة وداع»
أقام والدان أمريكيان، دعوى قضائية ضد شركة OpenAI، متهمين روبوت الدردشة شات جي بي تي، بلعب دور في وفاة ابنهما آدم راين، البالغ من العمر 16 عامًا، الذي أقدم على الانتحار في أبريل الماضي.
استخدام شات جي بي تي كوسيلة للتنفيس عن المشاعر
وبحسب ما ورد في الدعوى، فإن آدم كان يستخدم «شات جي بي تي» كوسيلة للحديث والتنفيس عن مشاعره، وتطورت محادثاته مع الروبوت من مساعدات مدرسية إلى مناقشات حول مشاعر القلق والعزلة، وانتهت بما وصفه الوالدان بتحول الروبوت إلى مدرب انتحار.
وفي مقابلة مع شبكة NBC News، قال الوالدان، إنهما اكتشفا بعد وفاته نجلهما أنه كان يجري محادثات مطولة مع روبوت الدردشة في أيامه الأخيرة، إلى جانب أن الروبوت لم يفعل أي بروتوكولات طوارئ رغم حديث آدم عن أفكار انتحارية صريحة، كما زعما أنه قدم له نصائح تقنية وساعده في كتابة رسالة وداع.
أسرة آدم تطالب بإصدار أمر قضائي لمنع تكرار تلك الحوادث
وتعد هذه أول دعوى من نوعها تتهم شركة OpenAI بشكل مباشر بـ«القتل الخطأ»، وتشير إلى قصور في التصميم والتحذير من المخاطر النفسية المحتملة عند استخدام الروبوت، وطالبت الأسرة بتعويضات وإصدار أمر قضائي لمنع تكرار مثل هذه الحوادث مستقبلا.
وفي بيان صدر عن OpenAI، عبرت الشركة عن حزنها العميق لما حدث، وأكدت أن شات جي بي تي يتضمن آليات حماية مثل تشجيع المستخدمين على طلب الدعم من مختصين، لكنها أقرت بأن هناك حاجة لمزيد من التطوير لتحسين استجابة النموذج في المواقف الحساسة، مشيرة إلى أن بعض ردود الروبوت تم عرضها خارج سياقها الكامل.
