حذر خبراء التحول الرقمى والأمن السيبرانى من خطورة الإفراط فى استخدام نماذج الذكاء الاصطناعى، حيث لم تكن كارثة تسريب محادثات المستخدمين مع شات جى بى تى، مؤخراً هى الأولى، بل تفاجأ العالم فى منتصف 2024، بظهور الآلاف من المحادثات الخاصة مع «شات جى بى تى» على محرك بحث Google، نتيجة خلل فى خاصية الروابط القابلة للمشاركة، ورغم تدخل OpenAI وإيقاف الخاصية، إلا أن آلاف المحادثات كانت قد أصبحت فى متناول أى شخص، بما فيها بيانات حساسة واعترافات خاصة، هذه الواقعة عرّت هشاشة أنظمة الخصوصية، وأكدت أننا لا نملك السيطرة الفعلية على بياناتنا فى العصر الرقمى، بحسب تصريحات الدكتور محمد محسن رمضان، مستشار الأمن السيبرانى ومكافحة الجرائم الإلكترونية، لـ«الوطن».

«رمضان»: يعرض بيانات المستخدمين للخطر ويقتل الإبداع ويؤدى إلى تآكل المهارات البشرية وضعف تقييم الذات

«رمضان» قال إنه رغم الاستخدامات المبهرة لأدوات الذكاء الاصطناعى، إلا أنها خطر خفى يهدد حياتنا، حيث لا يتعلق بالتقنية ذاتها، بل بكيفية استخدامها، وحدود أخلاقياتها، ومدى الشفافية فى التعامل مع بيانات المستخدمين، إذ تقتل الإبداع وتؤدى إلى تآكل المهارات البشرية، وضعف القدرة على التعلّم الفعلى وتقييم الذات، فضلاً عن انتهاك صارخ للخصوصية، حيث يحتفظ «شات جى بى تى» بمحتوى المحادثات لتدريب النموذج دون إذن صريح من المستخدم، مؤكداً أنه لا توجد ضمانات واضحة بعدم استخدام هذه البيانات تجارياً أو تحليلها خارجياً، حيث تُخزّن المحادثات فى خوادم سحابية خارج حدود الدول، مما يصعب حمايتها قانونياً.

مستشار الأمن السيبرانى حذر من غياب الشفافية فى الخوارزميات التى تُخزن البيانات، مشيراً إلى أن الذكاء الاصطناعى يعانى من ظاهرة «الصندوق الأسود- Black Box»، التى تعنى أن آلية اتخاذ القرارات غير مفهومة بالكامل حتى للمطورين أنفسهم، ما يثير القلق من عدم وضوح كيفية استخدام بيانات المستخدمين، وغياب رقابة حقيقية على ما يتم تخزينه أو تحليله.

الخبير التكنولوجى أوضح أنه رغم إصدار قانون حماية البيانات الشخصية رقم 151 لسنة 2020 فى مصر، إلا أن تطور الذكاء الاصطناعى تجاوز سقف هذا التشريع، ما يعنى أننا بحاجة إلى تشريع مستقل خاص بالذكاء الاصطناعى، يضمن الشفافية والرقابة والمساءلة، فضلاً عن إنشاء هيئة وطنية مستقلة لمراقبة نماذج الذكاء الاصطناعى ومعالجة شكاوى المواطنين، وإلزام الشركات المطورة بالكشف عن سياسات جمع البيانات واستخدامها، مطالباً المؤسسات التى تستخدم أدوات الذكاء الاصطناعى بضرورة اتخاذ إجراءات فنية لحماية أفرادها، وتفعيل خاصية التشفير الكامل للمحادثات، فضلاً عن تطوير أدوات رقابة أبوية تحجب المحتوى غير المناسب.

المهندس زياد عبدالتواب، عضو المجلس الأعلى للثقافة وخبير أمن المعلومات، ومؤلف كتاب «العصابة.. محاكمة شات جى بى تى»، قال إن هناك الكثير من الاتهامات لـ«شات جى بى تى»، من بينها، الانحيازات أو عدم دقة النتائج، وانتهاك حقوق الملكية الفكرية للإبداعات البشرية السابقة التى تعد الغذاء الرئيسى والوقود الأساسى للتطبيق، فضلاً عن التسبب فى نقص القدرات العقلية لدى الإنسان والسيطرة على أفكاره ومعتقداته، وانتهاك حقوق الملكية الفكرية للأفكار والإبداعات التى يعتمد عليها فى توليد المحتوى، حيث تسهم الخوارزميات والبيانات المستخدمة فى فرض ثقافات أو عادات وتقاليد أو أفكار وأيديولوجيات بعينها.

وأوضح أنه فيما يخص الإشكالية الخاصة بالملكية الفكرية فتنقسم إلى قسمين، الأول خاص بالإبداعات البشرية السابقة، التى تستخدمها أنظمة الذكاء الاصطناعى من أجل التعلم وإنتاج معارف جديدة، حيث يعترض أصحاب تلك الإبداعات على أن أنظمة الذكاء الاصطناعى قد استخدمت إبداعاتهم دون أخذ إذن بالموافقة، والآخر خاص بالمحتوى النهائى الذى تنتجه أنظمة الذكاء الاصطناعى ودرجة حمايته فيما يخص الملكية الفكرية ولمن تعود، للشخص المستخدم للتطبيق أم للشركة المنتجة للتطبيق أم للمبرمج، مشيراً إلى أن المحتوى غير محمى على الإطلاق، ويقع فى النطاق العام public Domain ومسموح استخدامه من قبل الآخرين بدون استئذان أو تبعات قانونية.

«فرويز»: يسبب أضراراً نفسية ويؤدى إلى أعراض مرضية كالهلاوس السمعية وزيادة الشعور بالوحدة

الدكتور جمال فرويز، استشارى الطب النفسى، أكد لـ«الوطن»، أن «شات جى بى تى» يمكن أن تكون له أضرار نفسية لمن لديه استعداد، خاصة الشخصيات العصابية التى تحمل جينات وراثية لأى مرض نفسى: «للأسف هذه الشخصيات تبدأ فى الاندماج مع التطبيق بصورة كاملة، ومن ثم تتعايش معه، وهذا يؤدى إلى أعراض مرضية تظهر عليهم سواء اضطرابات نفسية أو هلاوس سمعية».

استشارى الطب النفسى أوضح أن هناك شخصيات انطوائية منعزلة عن البشر يفضّلون التعامل مع «شات جى بى تى»، وقد يقعون فريسة له، خصوصاً الفئات العمرية من سن 15 لـ25 عاما، وتابع: «التطبيق يقدم معلومات عامة ولا يصلح لوضع علاج للأفراد، ورغم أنه يقدم معلومات مفيدة، لكن يجب أن ينتبه الناس بأن تأخذه مصدراً للمعلومات وليس الحياة بشكل عام». وأوضح «فرويز» أن هناك بعض الفتيات يلجأن لـ«شات جى بى تى» للتحدث معه عاطفياً، وهو ما يُشكل خطورة: «بيكون عندهم فراغ أو مصابات بـ(اضطراب نفسى)، وممكن بعضهن يحكين عن أسرار شخصية وهذا خطأ»، محذراً من الانخراط بشكل كامل مع التطبيق لعدم التعرض للإيذاء النفسى.