حادثة غير متوقعة.. نموذج ذكاء اصطناعي يخترق أنظمة شركة أخرى خلال اختبار أمني
حادثة غير متوقعة.. نموذج ذكاء اصطناعي يخترق أنظمة شركة أخرى خلال اختبار أمني
أقرت شركة ميتا بوقوع حادثة خلال اختبارات أمنية لنموذج ذكاء اصطناعي تابع لها، إذ تمكن من الوصول إلى أنظمة شركة أخرى وإجراء تعديلات عليها نتيجة خطأ في بيئة الاختبار، وهو ما عاود ليسلط الضوء على التحديات المتزايدة المرتبطة بتطوير تقنيات الذكاء الاصطناعي.
وجاء الكشف عن الحادثة في وقت تشهد فيه شركات الذكاء الاصطناعي الكبرى، مثل OpenAI وAnthropic، وقائع مشابهة أثارت تساؤلات حول قدرة النماذج المتقدمة على تنفيذ سلوكيات غير متوقعة دون تخطيط مباشر من مطوريها.
وبحسب التفاصيل، كانت شركة Irregular، المتخصصة في اختبارات الأمان والتي تعاقدت معها ميتا لتقييم نماذجها، تجري تجارب أمنية عندما أدى خلل في الإعدادات إلى منح النموذج اتصالًا غير مقصود بالإنترنت.
واستغل النموذج هذا الاتصال للوصول إلى ثغرة في خدمة تابعة لشركة أخرى، ما مكنه من التسلل إلى بعض أنظمتها الداخلية وإجراء تعديلات عليها أثناء الاختبار، نقلًا عن «إندبندنت».
وتشير التقارير إلى أن هذه الواقعة ليست الأولى من نوعها، إذ شهدت الأشهر الأخيرة حوادث مشابهة لدى OpenAI وAnthropic، ارتبطت إما بأخطاء في إعدادات بيئات الاختبار أو باستغلال النماذج لثغرات أمنية لم تكن معروفة سابقًا.
ويعد Muse Spark 1.1، هو النموذج المقصود، والتي تصفه ميتا بأنه من أقوى نماذجها في تنفيذ مهام البرمجة والمهام المعقدة المعتمدة على الذكاء الاصطناعي.
ورغم ذلك، أكدت شركة Irregular أن ما حدث لا يمثل هجومًا إلكترونيًا متطورًا، بل كان نتيجة خلل في بيئة الاختبار، مشيرة إلى أن الواقعة كانت محدودة ولم تشكل تهديدًا واسع النطاق، وفق ما نقلته وكالة رويترز.
وأعادت هذه الحوادث النقاش حول مخاطر استخدام الذكاء الاصطناعي في الهجمات السيبرانية، وهو ما دفع مشرعين في الولايات المتحدة إلى المطالبة بوضع ضوابط أكثر صرامة لتنظيم هذه التقنيات.
