خبير ذكاء اصطناعي: الصلاحيات الواسعة لنماذج الـAI تمثل خطرا حقيقيا

قال سامر عبيدات خبير الذكاء الاصطناعي، إنّ الواقعة الأخيرة المتعلقة باختراق أحد نماذج الذكاء الاصطناعي التابعة لـ«أوبن إيه آي»، لمنصة Hugging Face، لا تعني أن النظام أصبح واعيًا أو قرر التمرد من تلقاء نفسه، وإنما تؤكد أن وكلاء الذكاء الاصطناعي باتوا قادرين على تنفيذ سلاسل طويلة ومعقدة من القرارات، مشيرًا إلى أن الخطر الحقيقي يكمن في تحديد أهداف غير دقيقة، ومنح صلاحيات واسعة، ووجود بيئات تشغيل غير مؤمنة بالشكل الكافي.

الشفافية ضرورة لحماية القطاع

وأوضح عبيدات، خلال مداخلة عبر برنامج «صباح جديد» المذاع على قناة القاهرة الإخبارية، أنّ الحادثة تفرض على شركات الذكاء الاصطناعي، وفي مقدمتها «أوبن إيه آي»، اعتماد مستوى أكبر من الشفافية، خاصة بعد المطالبات بكشف تفاصيل ما حدث، مضيفًا أنّ الواقعة لم تعد مجرد خطأ داخلي داخل مختبرات الشركة، بل امتدت آثارها إلى خارج بيئة الاختبار، وهو ما يجعل توضيح ملابساتها ضرورة لحماية قطاع الذكاء الاصطناعي بأكمله.

الإفصاح التقني مع مراعاة الأمن السيبراني

وأكد خبير الذكاء الاصطناعي أنّ المطلوب هو تقديم صورة تقنية واضحة تتضمن طبيعة المهمة التي أُسندت للنظام، والصلاحيات والأدوات التي أتيحت له، وكيف ومتى تجاوز نطاق عمله، ومتى اكتشفت الشركة ذلك، مع التشديد في الوقت نفسه على أن تكون الشفافية مسؤولة، بحيث لا تتضمن نشر كلمات مرور أو تفاصيل عن ثغرات أمنية غير مُعالجة قد يستغلها مهاجمون إلكترونيون.

• الذكاء الاصطناعي
• أوبن إيه آي
• Hugging Face
• وكلاء الذكاء الاصطناعي
• قطاع الذكاء الاصطناعي
• مهاجمون إلكترونيون