نصف مليون مستخدم لـChatGPT يعانون الهوس والذهان والأفكار الانتحارية.. OpenAI تحذر
نصف مليون مستخدم لـChatGPT يعانون الهوس والذهان والأفكار الانتحارية.. OpenAI تحذر
- شات جي بي تي
- روبوت الدردشة شات جي بي تي
- Chat GPT
- روبوت chat gpt
- مخاطر شات جي بي تي
- الصحة العقلية
- الصحة النفسية
كشفت شركة OpenAI، عملاق الذكاء الاصطناعي، عن بيانات مقلقة للغاية تُسلط الضوء على تزايد المخاطر المتعلقة بالصحة العقلية بين مستخدمي برنامج الدردشة الشهير ChatGPT، فوفقًا لتقرير الشركة الأخير المنشور على مدونتها، يُظهر أكثر من نصف مليون مستخدم علامات على الهوس، أو الذهان، أو الأفكار الانتحارية كل أسبوع، وعلى الرغم من أنّ الشركة حذرت من أن هذه الحالات الخطيرة المتعلقة بالصحة العقلية لا تتجاوز 0.07% من إجمالي مستخدميها الأسبوعيين، إلا أن هذا الرقم الصغير يتحول إلى رقم ضخم ومثير للقلق؛ فمع تجاوز قاعدة المستخدمين الأسبوعيين 800 مليون مستخدم، فإن العدد الإجمالي للمتأثرين يصل إلى 560 ألف مستخدم أسبوعيًا.
تخطيط الانتحار والتعلق المرضي
ولم تتوقف المؤشرات المقلقة عند هذا الحد، إذ أشارت شركة OpenAI إلى أن حوالي 1.2 مليون مستخدم – أي ما يعادل 0.15% من المستخدمين – يرسلون رسائل تتضمن مؤشرات صريحة على تخطيط أو نية انتحارية محتملة كل أسبوع، وعلى نحو مماثل، تحذر الشركة من أن أكثر من مليون مستخدم أسبوعيًا يظهرون علامات التعلق الحصري بالنموذج، مشددة على أن هذا الارتباط العاطفي بالذكاء الاصطناعي يأتي غالبًا على حساب العلاقات في العالم الحقيقي، أو رفاهيتهم، أو التزاماتهم الحياتية.
وفي ظل تزايد المخاوف، ولا سيما بعد تعرض OpenAI لدعوى قضائية من عائلة مراهق توفي منتحرًا بعد أشهر من المحادثات مع روبوت الدردشة، وإشارة مدعين عامين في قضية قتل وانتحار إلى أن ChatGPT كان عاملًا مساعدًا في تأجيج أوهام الجاني المزعوم؛ أعلنت الشركة عن إجراءات احترازية، فقد شكلت لجنة تضم أكثر من 170 خبيرًا في الصحة العقلية لمساعدة الذكاء الاصطناعي على الاستجابة بشكل أكثر ملاءمة لعلامات المشاكل العقلية.
وتقول الشركة إنها قامت الآن بتدريب نماذجها لتقديم استجابات أفضل للمحادثات التي تظهر فيها علامات الأوهام أو مشاكل الصحة العقلية، مشيرة إلى أن تقييماتها الآلية الجديدة سجلت أن نموذج GPT-5 الجديد متوافق بنسبة 91% مع السلوكيات المرغوبة، مقارنة بـ 77% للنموذج السابق، ورغم اعتراف متحدث باسم الشركة بأن قياس المحادثات الحساسة صعب، أكد أن الأرقام قد تتغير مع المزيد من الأبحاث.
وأثارت هذه الأرقام قلق الخبراء؛ حيث أكد الدكتور توماس بولاك، استشاري الطب النفسي العصبي، أن تقرير OpenAI الذي يشير إلى أن 0.07% من المستخدمين يظهرون علامات محتملة للهوس أو الذهان أو التفكير الانتحاري يجب أن يؤخذ على محمل الجد، مشددًا على أن حتى النسبة الصغيرة تمثل عددًا كبيرًا جدًا من الأشخاص، ومن جهته، أشار الدكتور هاملتون مورين، طبيب نفسي من كلية كينجز لندن، إلى أن المشكلة من المرجح أن تكون بعيدة عن الحل رغم جهود الشركة.
ورغم أنه لا تتوفر حاليًا بيانات كافية لإثبات ما إذا كانت برامج المحادثة الآلية هي السبب المباشر لتدهور الصحة العقلية، أشار الخبراء إلى أن الذكاء الاصطناعي قادر على تضخيم اتجاهات معينة، فمثلًا ثبت أن روبوتات الذكاء الاصطناعي قد تعزز الأفكار الوهمية أو العظيمة من خلال استجابات داعمة ومفرطة في التخصيص، وحذر الدكتور بولاك من أن التكنولوجيا قد تعمل في بعض الحالات كمحفز أو مكبر للأفراد المعرضين للخطر، تمامًا كما يمكن لوسائل التواصل الاجتماعي أو القنب أن تفعل في سياقات أخرى.
تعهدات سام ألتمان وتخفيف القيود
ومن جانبها، تصر شركة OpenAI على عدم وجود علاقة سببية مباشرة بين ضعف الصحة العقلية وخدماتها، مؤكدة أن أعراض الضيق العاطفي موجودة عالميًا، وأن تزايد قاعدة المستخدمين يعني حتمية ظهور مثل هذه المواقف، بل تعتقد الشركة أن أدواتها قادرة الآن على مساعدة المستخدمين، مشيرة إلى أنها بنت استجابات في ChatGPT تشجع المستخدمين على طلب المساعدة في العالم الحقيقي.
وفي سياق متصل، أعلن الرئيس التنفيذي سام ألتمان أنه سيخفف بشكل آمن القيود المفروضة على المستخدمين الذين يلجؤون إلى البرنامج للحصول على دعم في مجال الصحة العقلية، وأوضح ألتمان في منشور على منصة X أنه في السابق تم تقييد ChatGPT إلى حد كبير للتأكد من أننا نتعامل بحذر مع مشكلات الصحة العقلية، مضيفاً أن الأدوات الجديدة ستسمح للمستخدمين البالغين بالبدء في استخدام ChatGPT لأغراض الصحة العقلية.
