«ChatGPT» يُبلغ عنك في هذه الحالة.. محادثاتك قد تقودك للشرطة
«ChatGPT» يُبلغ عنك في هذه الحالة.. محادثاتك قد تقودك للشرطة
تبدو الخطوة الجديدة التي اتخذتها شركة OpenAI، هي محاولةً للسيطرة على الأزمة المتصاعدة المتعلقة بآثار الذكاء الاصطناعي على الصحة العقلية للمستخدمين، خاصةً بعد انتشار قصة مروعة عن رجل أصيب بذهان الذكاء الاصطناعي، وأقدم على جريمة قتل وانتحار، وعلى مدار العام الماضي، تزايدت التقارير التي تتحدث عن روبوتات الدردشة التي تدفع المستخدمين إلى إيذاء أنفسهم، وتسبب لهم الأوهام، أو تؤدي إلى دخولهم المستشفيات أو حتى الانتحار، فكيف تعاملت شركة OpenAI مع الواقعة؟
تغيير سياسات OpenAI والاعتراف بالإخفاقات
في الوقت الذي يطالب فيه المتضررون من هذه الروبوتات الخطيرة باتخاذ إجراءات حاسمة، كانت الشركات المسؤولة بطيئة في تنفيذ الضمانات اللازمة، ولكن في منشور حديث على مدونتها، اعترفت شركة OpenAI ببعض إخفاقاتها في التعامل مع أزمات الصحة العقلية لمستخدميها، وكشفت الشركة بهدوء أنها ستبدأ في مراقبة رسائل المستخدمين بحثًا عن محتوى ضار، وتصعيد المحتوى المقلق بشكل خاص إلى فريق من الموظفين البشريين للمراجعة، وفي بعض الحالات، قد يتم إبلاغ السلطات المختصة، وأوضحت الشركة في منشورها: «عندما نرصد مستخدمين يخططون لإيذاء الآخرين، نُوجِّه محادثاتهم إلى قنوات متخصصة، حيث يُراجعها فريق صغير مُدرَّب، ومُخوَّل باتخاذ إجراءات، بما في ذلك حظر الحسابات، وإذا رأى المُراجعون البشريون أن القضية تنطوي على تهديد وشيك بإيذاء جسدي خطير للآخرين، فقد نُحيلها إلى جهات إنفاذ القانون»، وفقًا لما ذكره موقع «futurism».
ويترك هذا البيان القصير والغامض الكثير من الأسئلة دون إجابة، كما أنّ سياسات الاستخدام الخاصة بـ OpenAI لا توفر الكثير من الوضوح، فعلى الرغم من أنّ الشركة ذكرت بعض الأمثلة للأنشطة المحظورة، مثل الترويج للانتحار أو استخدام الأسلحة، إلا أنها اعترفت بأنها لا تحيل حاليًا حالات إيذاء النفس إلى جهات إنفاذ القانون احترامًا لخصوصية الأشخاص، وهذا التناقض يثير المزيد من الحيرة، ولا يزال من غير الواضح أي أنواع المحادثات تحديدًا قد تؤدي إلى وضع المستخدم تحت المراقبة البشرية، ناهيك عن إحالته إلى الشرطة، كما أنّ هذه القاعدة الجديدة تبدو متناقضة مع موقف الشركة المؤيد للخصوصية في ظل دعواها القضائية المستمرة مع صحيفة «نيويورك تايمز» وناشرين آخرين.
مأزق OpenAI بين الخصوصية والسلامة
وتواجه OpenAI موقفًا حرجًا، فمن جهة، تتعرض لضغوط هائلة بسبب ردود الفعل السلبية من المستخدمين الذين يعانون من أزمات نفسية، ومن جهة أخرى، تواجه صعوبة في التحكم بتقنيتها بما يكفي لحماية هؤلاء المستخدمين، مما دفعها إلى اللجوء إلى سياسة رقابة صارمة، ويبدو أن الشركة عالقة بين المطرقة والسندان، فاستخدام ChatGPT كمعالج أو محامٍ لا يمنح نفس السرية التي يمنحها التحدث إلى متخصص حقيقي، كما اعترف الرئيس التنفيذي للشركة سام ألتمان، ومع الدعوى القضائية المرفوعة ضدها، قد تُضطر الشركة إلى تسليم سجلات المحادثات إلى المحاكم، مما يُقوض أي ادعاءات بالخصوصية التي وعدت بها سابقًا.
