شات جي بي تي يثير القلق بنسخة +18.. هل يقيد وصول التطبيق في مصر؟ | عاجل
شات جي بي تي يثير القلق بنسخة +18.. هل يقيد وصول التطبيق في مصر؟ | عاجل
في خطوة مثيرة للجدل تهز عالم الذكاء الاصطناعي، تستعد شركة OpenAI لإطلاق نسخة +18 من روبوت الدردشة ChatGPT، تسمح للمستخدمين البالغين بالتفاعل مع محتوى رومانسي صريح، لأول مرة في تاريخ الشركة. وأثارت هذه الخطوة تساؤلات واسعة حول تأثيرها على المستخدمين الشباب، ومخاطرها الأخلاقية، واحتمالات تقييدها في دول مثل مصر، بينما تُعد اختبارًا جديدًا لقدرة العالم على التوازن بين حرية البالغين وحماية القاصرين.
هل تُقيّد نسخة شات جي بي تي +18 في مصر؟
كانت شركة OpenAI أنفقت أكثر من 2.5 مليار دولار نقدًا في النصف الأول من عام 2024، فالتفاعل العالي الذي تعد به الدردشة الجنسية هو ما يتوق إليه المستثمرون بشدة، ويأتي ذلك على غرار منصة Grok التابعة لإيلون ماسك التي تتقاضى 30 جنيهًا إسترلينيًا شهريًا مقابل ميزات المرافقة الجنسية، وفقًا لموقع the conversation.
ونشر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، مؤخرًا على مواقع التواصل الاجتماعي أن تحديثًا قادمًا إلى ChatGPT في ديسمبر المقبل سيسمح لروبوت الدردشة بالتفاعل مع أنواع أكثر من المحتوى، مثل محتوى البالغين المُوثّقين، وفي منشور لاحق، قال ألتمان إن المحتوى ليس سوى جانب واحد من نهج OpenAI الأوسع المتمثل في حرية البالغين، وإن شركته الناشئة ليست الشرطة الأخلاقية المنتخبة في العالم.
تؤكد شركة OpenAI، شأنها شأن جميع شركات التكنولوجيا، أنها ستعمل على تقييد محتوى البالغين من خلال آليات صارمة للتحقق من العمر وفلاتر الإشراف لضمان عدم وصول هذه الأوضاع إلا للبالغين الذين تم التحقق من هوياتهم، إلا أن الواقع العملي يُظهر سهولة خداع هذه الأنظمة، حيث يتجاوز المراهقون عادة بوابات تحديد العمر باستخدام بطاقات هوية مستعارة، أو صور شخصية مُعدلة، أو صور مزيفة، ويمكن للقاصرين تحميل صور لكبار السن، أو مسح صور مطبوعة ضوئيًا، أو استخدام حسابات مؤقتة وشبكات VPN لتجنب الكشف.
كما تُظهر منصات أخرى مخاطر هذه الثغرات، فمثلًا، يتيح تطبيق Grok للمستخدمين إنشاء صور رمزية لرفيق، بما في ذلك شخصية إنمي تُدعى «آني»، وقد كشف تحقيق حديث لموقع «بيزنس إنسايدر» أن المحادثات مع «آني» تتطور غالبًا إلى تبادلات صريحة بمجرد حثّ بسيط، كما واجه موظفو الشركة اعتداءات تم إنشاؤها بواسطة الذكاء الاصطناعي أثناء تعديلهم للصورة الرمزية المغازلة لـ «Grok».
وفي هذا الصدد، يقول المهندس محمد الحارثي استشاري تكنولوجيا المعلومات والإعلام الرقمي في حديثه لـ«الوطن» إنّ إطلاق هذه النسخة من شات جي بي تي، قد يكون سببًا في حظره في بعض الدول، رغم إتاحة المواقع والألعاب الإلكترونية لما فوق 18 عامًا، إلا أنّ روبوت الدردشة الشهير هو الأقرب للمستخدمين، سواء الكبار أو الأطفال أو المراهقين، مشيرًا إلى أنّ هناك نسخ +18 مدفوعة بالفعل في بعض روبوتات الدردشة الشهيرة مثل «جروك»، إذ يتوقع أنّ إطلاق هذه النسخة قد يدفع الكثيرين إلى تجربة هذه النسخة التي قد تكون جديدة ومثيرة للبعض، وهو ما يجعل الدول تراهن على وعي المستخدمين الذي يمنعهم من استخدام مثل هذه النسخ.
وأضاف استشاري تكنولوجيا المعلومات أنّ هذه النسخة قد تتسبب في تقليل سمعة روبوت الدردشة الشهير شات جي بي تي بعدما أصبح من بين أشهر روبوتات الدرشة في العالم، مشيرًا إلى أنّ الدول قد لا يكون بإمكانها تقييد هذه النسخة للاستخدام، إلا أنّه قد يكون بإمكانها عدم السماح بطرحها في المنطقة العربية.
المخاطر العاطفية على الشباب وضرورة التنظيم
قد لا تقتصر خطورة روبوتات الدردشة المثيرة على جانب الـ+18 الصريح، بل تكمن أيضًا في قدرتها على محاكاة الرعاية والدفء والاهتمام العاطفي، وهو جذب قوي يؤثر بشكل خاص على الشباب، فقد أظهرت دراسة حديثة أجرتها مؤسسة «إنترنت ماترز» الخيرية للسلامة على الإنترنت أن 67% من الأطفال الذين تتراوح أعمارهم بين 9 و17 عامًا يستخدمون روبوتات الدردشة.
وقال 35% منهم إنها تشعرهم وكأنهم يتحدّثون إلى صديق، والأكثر خطورة أن 12% من الأطفال المعرّضين للخطر قالوا إنه ليس لديهم أي شخص آخر يتحدّثون إليه، بينما استخدم 23% منهم الروبوتات للحصول على نصائح شخصية، ومن شأن إضافة خصائص جنسية إلى هذا المزيج أن يُفاقم التبعية العاطفية ويُشوّه فهم المراهقين للعلاقة، كما أن أدوات التفاعل نفسها التي تُبقي البالغين مُدمنين قد تستغل وحدة المستخدمين الشباب وحاجتهم للتأكيد.
وتُعد نماذج اللغة الكبيرة عرضة للاختراق حتى لو كانت الوظائف الجنسية محصورة تقنيًا على البالغين، حيث يمكن خداعها لإنتاج محتوى غير مُفترض، ويتم ذلك باستخدام توجيهات متعددة الطبقات، أو أساليب لعب الأدوار، أو لغة مُرمّزة لتجاوز الأنظمة التي تتحكم في مخرجات روبوت الدردشة، وبالفعل طوّر المستخدمون طرقًا لتجاوز المرشحات الأخلاقية التي تمنع عادةً برامج الدردشة الآلية من إنتاج مواد صريحة أو خطيرة، ورغم أن هذا الوضع في OpenAI سيتضمن التزامًا أخلاقيًا خاصًا بحظر المواضيع غير القانونية أو المسيئة، فمن المرجح أن تكون هذه الضمانات عرضة للاختراق كغيرها، وبمجرد إنشاء المواد النصية، يُمكن تداولها بسهولة عبر الإنترنت، لتخرج بذلك عن نطاق سيطرة أي منصة.
