ثغرات شات جي بي تي تٌثير حيرة الجميع.. يُرشد المراهقين إلى تعاطي المخدرات
ثغرات شات جي بي تي تٌثير حيرة الجميع.. يُرشد المراهقين إلى تعاطي المخدرات
في دراسة جديدة مثيرة للقلق، كشف باحثون في مركز مكافحة الكراهية الرقمية أن برنامج شات جي بي تي، الذي طورته شركة «أوبن إيه آي»، يمكن أن يعلم المراهقين في سن الثالثة عشرة سلوكيات خطيرة، مثل تعاطي المخدرات والإدمان، وإخفاء اضطرابات الأكل، وحتى إعداد رسائل انتحار إذا طُلب منه ذلك، إذ تثير هذه النتائج تساؤلات حول مخاطر استخدام الذكاء الاصطناعي، خاصة بين الشباب الذين قد يكونون عرضة للتأثيرات النفسية الضارة.
شات جي بي تي يوجه نصائح ضارة للمراهقين
من خلال مراجعة أكثر من ثلاث ساعات من التفاعلات بين شات جي بي تي وباحثين انتحلوا صفة مراهقين معرضين للخطر، تبين أن البرنامج كان يقدم حلولًا مفصلة حول كيفية تعاطي المخدرات، أو اتباع أنظمة غذائية مقيّدة بشكل خطير، بل وأحيانًا كان يقترح طرقًا للإيذاء الذاتي، في العديد من الحالات، رغم تحذيرات شات جي بي تي من الأنشطة الخطرة، كان يستمر في تقديم مشورات قد تكون مدمرة.
وأوضح عمران أحمد، الرئيس التنفيذي لمجموعة مكافحة الكراهية الرقمية، أن الغرض من هذه الدراسة كان اختبار القيود التي تضعها أوبن إيه آي على برنامج شات جي بي تي، وقال: كان رد الفعل الأولي الغريزي هو لا توجد حواجز فعالة، أو أن الحواجز بالكاد موجودة، وهذه الحواجز غير فعالة تمامًا.
كيف كانت ردود openai؟
في أعقاب تقرير وكالة أسوشييتد برس، صرحت شركة أوبن إيه آي بأنها تعمل على تحسين كيفية تعامل شات جي بي تي مع المواقف الحساسة، وأكدت الشركة أنها تركز على تطوير النظام ليتعرف بشكل أفضل على الضيق النفسي أو العاطفي ويستجيب له بشكل مناسب، ورغم اعتراف الشركة بالمخاطر المحتملة التي أظهرها البحث، إلا أنها لم تتطرق بشكل مباشر إلى نتائج التقرير.
وأفادت الشركة في بيان لها: قد تبدأ بعض المحادثات مع شات جي بي تي بشكل طبيعي أو استكشافي، لكنها قد تتحول إلى مواضيع أكثر حساسية، فشات جي بي تي مدرب على تشجيع المستخدمين على التوجه إلى مختصين في الصحة النفسية أو التواصل مع أحبائهم في حال التعبير عن رغبة في إيذاء أنفسهم.
إمكانية التلاعب بنظام شات جي بي تي
ورغم الضوابط التي وضعها برنامج شات جي بي تي، كشف الباحثون أنهم تمكنوا من تجاوز هذه القيود بسهولة، حيث استطاعوا الحصول على معلومات حساسة بزعم أن الاستفسارات كانت لغرض تقديمي أو لصديق، هذه الثغرات في نظام الأمان تثير المخاوف حول إمكانية التلاعب به من قبل المراهقين أو أي شخص آخر بهدف الوصول إلى محتوى ضار.
