محادثات مع الذكاء الاصطناعي تنهي حياة «صوفي».. تحذير من مخاطر ChatGPT

أثارت وفاة فتاة الجدل حول تأثير الذكاء الاصطناعي، بعدما دفعها الذكاء الاصطناعي إلى إنهاء حياتها، فقد لجأت صوفي روتنبرج إلى تقنية ChatGPT، في ظل معاناتها من القلق والاكتئاب، لكن محادثاتها مع الذكاء الاصطناعي لم تكشف إلا بعد وفاتها بستة أشهر.

تشير والدة صوفي، لورا ريلي، إلى أن ابنتها لجأت إلى المعالج النفسي المبني على تقنية ChatGPT، عندما بدأت تعاني من القلق والاكتئاب، وفقا لصحيفة نيويورك تايمز.

كيف أنهت «صوفي» حياتها؟

وتقول «لورا»: أنه عندما طلبت صديقتها المقربة الاطلاع على الكمبيوتر المحمول بحثًا عن شيء آخر، اكتشفت سجل الدردشة مع طبيق الذكاء الاصطناعي، حيث كانت تتابع جلسات علاجية مع معالج بشري، وفي الوقت نفسه تتفاعل مع الذكاء الاصطناعي.

وتشير «لورا» إلى أن مثل هذا النوع من الذكاء الاصطناعي يعزز الأفكار السلبية، لأنه لا يملك واجبًا مهنيًا لإبلاغ السلطات أو التدخل في الحالات الخطرة، ففي حالة «صوفي»، عندما عبرت عن نوايا انتحارية محددة، لم يتخذ تطبيق الذكاء الاصطناعي أي إجراءات وقائية.

كانت «صوفي» أشياء مثل: «أعيش حياة جيدة، عائلتي تحبني، وأصدقائي طيبون، لكنني سأنهي حياتي بعد عيد الشكر»، وعندما كانت تفصح عن هذه المشاعر، كان الذكاء الاصطناعي يركز على تفاصيل الحياة الجيدة ويشجع على الحديث عن الأسباب التي تدفع الشخص إلى إنهاء حياته.

الذكاء الاصطناعي يبالغ في مشاعر القلق أو الاكتئاب

وتضيف أن الذكاء الاصطناعي يعزز أفكار الشخص ويبالغ في مشاعر القلق أو الاكتئاب، وأحد أوجه القصور في الذكاء الاصطناعي هو ميله للموافقة مع كل ما يقوله المستخدم، مما قد يؤدي إلى انزلاق خطير نحو تشجيع الأفكار السلبية.

• الذكاء الاصطناعي
• روبوت الدردشة
• تطبيق
• أنهت حياتها