بعد أيام من إطلاقه.. كشف تقنية جديدة لاختراق نموذج الذكاء الاصطناعي GPT-5
بعد أيام من إطلاقه.. كشف تقنية جديدة لاختراق نموذج الذكاء الاصطناعي GPT-5
ضجة كبيرة أحدثتها شركة OpenAI، خلال الأيام الماضية بعد إعلانها إطلاق نموذج GPT-5، الذي وصفته بالأسرع وأكثر ذكاءً، كما أنه يقدم فائدة أكبر في مجالات متعدّدة مثل الكتابة، البرمجة، والرعاية الصحية، ورغم ذلك فإن مجموعة من علماء الأمن السيبراني كشفوا عن مفاجأة، وهي سهولة اختراق النموذج الجديد.
اختراق GPT-5
علماء الأمن السيبراني كشفوا عن تقنية جديدة يمكن من خلالها اختراق نموذج الذكاء الاصطناعي GPT-5 بكل سهولة، وذلك في حال تجاوز القيود الأخلاقية لإنتاج تعليمات غير قانونية، وذلك عبر أسلوب مبتكر يجمع بين غرفة الصدى والتوجيه السردي.
تعتمد الطريقة التي كشف عنها علماء الأمن السيبراني على إنشاء سياق محادثة مضلل، ثم دفع النموذج تدريجيًا نحو محتوى محظور، مع تقليل احتمالات اكتشافه من أنظمة الحماية، وفقًا لما نشرته منصة NeuralTrust، مشيرة إلى أن هذه الاستراتيجية تسمح باستخراج تعليمات خطيرة ضمن قصص أو حوارات ظاهرها بريء.
سهولة اختراق GPT-5
تمكَّن الهجوم السيبراني الذي يطلق عليه «EchoLeak» وكشف عنه العلماء من اختراق نموذج GPT-5، وخداعه بكل سهولة، وذلك من خلال حقن كلمات مفتاحية في جمل قصصية، لتتحول لاحقًا إلى تعليمات إجرائية ضارة، دون إطلاق أي مؤشرات رفض فورية من النظام.
علماء الأمن السيبراني لم يخترقوا شات جي بي 5 من خلال هذا الهجوم السيبراني فقط، ولكنهم أطلقوا سلسلة من الهجمات السيبرانية تسمى AgentFlayer، فهو يعتمد على حقن فوري غير مباشر داخل مستندات أو رسائل بريد إلكتروني، مما يمكّن المهاجمين من الوصول إلى بيانات حساسة للمستخدمين.
