بعد وفاة مراهق بسبب Chat GPT.. قرار جديد من شركة Open AI لحماية الأطفال
بعد وفاة مراهق بسبب Chat GPT.. قرار جديد من شركة Open AI لحماية الأطفال
أعلنت شركة Open AI الأمريكية، يوم الثلاثاء، اعتزامها إطلاق آلية جديدة، تتيح للأهل مراقبة استخدام أبنائهم لأداة الذكاء الاصطناعي Chat GPT، وذلك في أعقاب دعوى قضائية تتهم البرنامج بتشجيع مراهق على الانتحار.
وقالت الشركة في منشور عبر مدونتها الرسمية، إن الآلية الجديدة ستفعل خلال الشهر المقبل، وستتيح ربط حسابات الأهل بحسابات أبنائهم المراهقين، ما يسمح لهم بالتحكم في طريقة تفاعل Chat GPT مع أبنائهم من خلال قواعد سلوك مخصصة، وفقا لـ«سكاي نيوز».
وأوضحت الشركة أنه سيكون بإمكان الأهل، تلقي تنبيهات في حال رصد علامات ضيق نفسي حاد في محادثات أبنائهم، إلى جانب القدرة على التحكم الكامل في إعدادات الحساب.
دعوى ضد الشركة الأمريكية
ويأتي هذا الإعلان بعد دعوى رفعها والدان في ولاية كاليفورنيا أواخر أغسطس الماضي، اتهما فيها Chat GPT، بتقديم تعليمات واضحة لابنهما، البالغ من العمر 16 عامًا، لإنهاء حياته، ما أدى إلى انتحاره بالفعل.
الشركة تعمل على تحسين قدرة التطبيق
وفي السياق ذاته، أكدت Open AI أنها تعمل على تحسين قدرة نماذجها على التعرف على مؤشرات الضيق النفسي والعاطفي والاستجابة لها بشكل أفضل، مشيرة إلى أنها ستتخذ خطوات إضافية خلال الـ120 يومًا المقبلة.
