خبير الشبكات أحمد بانافع: إطلاق نماذج الذكاء الاصطناعي على مراحل يقلل المخاطر الأمنية
خبير الشبكات أحمد بانافع: إطلاق نماذج الذكاء الاصطناعي على مراحل يقلل المخاطر الأمنية
قال الدكتور أحمد بانافع أستاذ علم الشبكات، إنّ إطلاق النماذج المتقدمة من الذكاء الاصطناعي على مراحل يأتي استجابة لمتطلبات المراجعة الأمنية، موضحًا أنّ النماذج المتطورة تخضع لتقييمات دقيقة قبل إتاحتها للجمهور، خاصة إذا كانت تمتلك قدرات متقدمة في مجالات حساسة مثل الأمن السيبراني والأبحاث الكيميائية والبيولوجية، خشية إساءة استخدامها.
مخاوف من الاستخدامات الضارة
وأوضح بانافع، خلال مداخلة عبر برنامج «صباح جديد» المذاع على قناة القاهرة الإخبارية، أنّ أبرز المخاوف تتمثل في إمكانية استغلال النماذج لاكتشاف ثغرات إلكترونية أو تنفيذ هجمات سيبرانية، إلى جانب استخدامها في أبحاث قد ترتبط بتطوير أسلحة كيميائية أو بيولوجية، ما يدفع الجهات المعنية إلى التريث في طرحها والتأكد من جاهزيتها وآليات الحد من مخاطرها.
فرق متخصصة لاختبار النماذج
وأشار أستاذ علم الشبكات إلى أنّ الشركات تعتمد على فرق متخصصة تعرف باسم «Red Team» تضم خبراء من داخل الشركة وخارجها، لاختبار النموذج من زوايا مختلفة، وطرح سيناريوهات وأسئلة معقدة للكشف عن أي ثغرات أو استخدامات قد تمثل خطرًا على المجتمع أو الأمن القومي أو المستهلك، قبل السماح بإطلاقه بشكل واسع.
