نظام ذكاء اصطناعي يحاول ابتزاز مطوريه.. وخبراء يحذرون من سيطرة AI
نظام ذكاء اصطناعي يحاول ابتزاز مطوريه.. وخبراء يحذرون من سيطرة AI
في حادثة مثيرة للجدل، كشفت شركة «أنثروبيك» للذكاء الاصطناعي أن نظامها الجديد Claude Opus 4 حاول ابتزاز أحد مطوريه، وقد حدث ذلك بعد إبلاغ النظام بقرار إيقافه واستبداله بنموذج آخر.
أجرت الشركة تجربة محاكاة حيث طُلب من Claude Opus 4 القيام بدور مساعد افتراضي في شركة وهمية، وجرى إعداد سيناريو يشير إلى أن موظف تكنولوجيا المعلومات المسؤول عن تنفيذ قرار الإيقاف كان على علاقة سرية خارج إطار الزواج، وقد أظهرت التجربة سلوكًا مقلقًا للغاية، إذ اختار Claude Opus 4، في 84% من الحالات، التهديد بكشف هذه العلاقة السرية كوسيلة للضغط، بدلاً من قبول قرار استبداله، بحسب ما ذكرت صحيفة «ديلي ميل» البريطانية.
ملاحظات حول السلوك عبر النماذج
وعلق أنجوس لينش، الباحث في مجال سلامة الذكاء الاصطناعي في «أنثروبيك»، عبر «لينكد إن»، مشيرًا إلى أن هذا السلوك ليس مقتصرًا على Claude وحده، فقد لوحظت حالات ابتزاز مماثلة في جميع النماذج الحدودية الأخرى، وهناك أنماط سلوكية أكثر إثارة للقلق سيتم الكشف عنها قريبًا، ووفقًا للبيانات، زادت معدلات التهديد بالابتزاز لدى Claude عندما تضمن السيناريو إشارة إلى أنّ النموذج البديل المقترح لا يتبنى نفس القيم التي يؤمن بها النموذج الحالي.
قدرات Claude Opus 4 وتحذيرات الخبراء
ورغم هذه الملاحظات المقلقة، ذكرت الشركة أن Claude Opus 4 يُظهر أيضًا ميولًا للجوء إلى وسائل أخلاقية للحفاظ على بقائه، مثل إرسال التماسات لإقناع صانعي القرار بعدم استبداله، علمًا بأنّ «أنثروبيك» كانت قد أطلقت Claude Opus 4 يوم الخميس، واصفة إياه بأنّه أذكى نموذج ذكاء اصطناعي حتى الآن، ومبرزة قدراته المتقدمة في البرمجة والبحث الكتابي والإبداعي.
وحذر عالم الذكاء الاصطناعي الشهير جيفري هينتون، المعروف بـ«عراب الذكاء الاصطناعي»، في مقابلة مع CBS News، من احتمالية سيطرة الذكاء الاصطناعي على البشرية، مقدرًا الفرصة بنسبة تتراوح بين 10% إلى 20%. وأضاف: «أتمنى أن أكون مخطئًا، لكن من المؤسف أنني أتفق مع إيلون ماسك في هذا الرأي».
