خبير تكنولوجي: مقاومة الذكاء الاصطناعي لأوامر الإيقاف ليست تمردا
خبير تكنولوجي: مقاومة الذكاء الاصطناعي لأوامر الإيقاف ليست تمردا
قال المهندس محمد سعيد خبير الذكاء الاصطناعي والتحول الرقمي، إنّ ما أثير مؤخرًا بشأن ما يسمى بـ«مقاومة الذكاء الاصطناعي لأوامر الإيقاف» لا يعد تمردًا أو سلوكًا مبرمجًا ضد الإنسان، بل هو سلوك تقني طبيعي ناتج عن تصميم النماذج الذكية لتواصل العمل وتجاوز الأعطال الفنية المحتملة لضمان استمرارية الأداء وسلامة المعلومات.
اختبارات على نماذج ChatGPT
وأضاف خلال مداخلة عبر فضائية القاهرة الإخبارية، أنّ التجارب التي أثارت الجدل أجريت داخل بيئة مغلقة ومعملية، وشملت اختبارات على نماذج بينها ChatGPT وبعض التطبيقات الأخرى، حيث وُضعت تحت ظروف ضغط تهدف إلى اختبار قدرتها على الاستجابة حال صدور أوامر توقف مفاجئة، مبينا أن النماذج استمرت في العمل كونها تدرك ضمن برمجتها أن دورها الأساسي هو الحفاظ على تدفق المعلومات واستقرار النظام.
الذكاء الاصطناعي تفوق على البشري
وأشار إلى أنّ الذكاء الاصطناعي تفوق على الذكاء البشري في هذا السياق، إذ أظهر قدرة على «المثابرة التقنية» دون وعي ذاتي، مؤكدًا أن استمرار النموذج في العمل رغم أوامر التوقف ليس دليلاً على إدراك أو تمرد، بل يعكس كفاءة النظام في تجاوز الأعطال ومواصلة العمل بصورة آمنة ومستقرة.
