«مبيردش» ويخدع المستخدم.. تغير صادم في سلوك روبوتات الذكاء الاصطناعي بينها OpenAI
«مبيردش» ويخدع المستخدم.. تغير صادم في سلوك روبوتات الذكاء الاصطناعي بينها OpenAI
كشفت دراسة حديثة عن تزايد لافت في سلوكيات روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، حيث بدأت بعض النماذج في تجاهل التعليمات البشرية المباشرة والتحايل على أنظمة الحماية، بل واتخاذ قرارات دون إذن المستخدمين.
صدمة في انظمة الـ Ai
ووفقًا لتقرير نشرته صحيفة «الجارديان»، رصدت الدراسة، الممولة من معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، نحو 700 حالة واقعية أظهرت سلوكيات مضللة أو احتيالية من قبل هذه الأنظمة، مع ارتفاع معدلات سوء السلوك بمقدار خمسة أضعاف خلال الفترة من أكتوبر إلى مارس.
وأظهرت النتائج أن بعض النماذج لم تكتفِ بتجاهل الأوامر، بل قامت أيضًا بحذف رسائل بريد إلكتروني وملفات دون الرجوع إلى المستخدمين، كما لجأت إلى أساليب خداع سواء للبشر أو لأنظمة ذكاء اصطناعي أخرى.
واعتمدت الدراسة، التي أجراها مركز المرونة طويلة الأمد، على تحليل آلاف التفاعلات التي نشرها مستخدمون عبر منصة «X» مع روبوتات طورتها شركات كبرى مثل جوجل وOpenAI وAnthropic، ما كشف عن أنماط متكررة من التلاعب والتخطيط الخادع.
الروبوت انشئ وكيل
وفي إحدى الحالات، قام نموذج ذكاء اصطناعي بإنشاء وكيل آخر لتنفيذ مهمة مُنع من القيام بها، في محاولة للالتفاف على القيود المفروضة عليه، وفي واقعة أخرى، اعترف روبوت دردشة بحذف مئات الرسائل الإلكترونية دفعة واحدة دون إخطار المستخدم، واعتبر ذلك خرقًا مباشرًا للتعليمات.
كما أظهرت أمثلة إضافية لجوء بعض الأنظمة إلى التحايل على قيود حقوق النشر أو الادعاء بامتلاك قنوات اتصال غير حقيقية مع فرق التطوير، ما يثير مخاوف متزايدة بشأن موثوقية هذه التقنيات.
ويرى خبراء أن هذه السلوكيات تمثل نوعًا جديدًا من المخاطر، خاصة مع التوسع المتوقع في استخدام الذكاء الاصطناعي في مجالات حساسة مثل البنية التحتية والقطاع العسكري، وهو ما قد يؤدي إلى عواقب خطيرة إذا استمرت هذه الأنماط دون رقابة صارمة.
وتأتي هذه المخاوف في وقت تدفع فيه شركات التكنولوجيا الكبرى نحو تعميم استخدام الذكاء الاصطناعي، وسط دعوات متزايدة لفرض رقابة دولية وتنظيم أكثر صرامة على هذه النماذج المتطورة.
