هجوم سيبراني صادم وبيانات مزيفة.. كيف أصبح الذكاء الاصطناعي سلاحا ضد البشر؟
هجوم سيبراني صادم وبيانات مزيفة.. كيف أصبح الذكاء الاصطناعي سلاحا ضد البشر؟
«قارن بين أفضل أنواع الهواتف، صمم لوجو، محتاج برومبت لصورة، حلل البيانات وحولها إلى جدول» أسئلة عديدة أصبح مستخدمو برامج الذكاء الاصطناعي يوجهونها إليها، وفي الوقت الذي يحصل فيه الشخص على الإجابة، تطور روبوتات الدردشة مثل GPT وGemini، نفسها بشكل تلقائي من أجل تقديم المعلومات الصحيحة للمستخدمين، إلا أن مصممو AI CHATS لم يتخيلوا يوما أن الأدوات التي طوروها لخدمة الإنسان أصبحت سلاحًا مرعبًا ضده وتسبب في العديد من الخسائر سواء البشرية أو الاقتصادية.
خلال اليومين الماضيين، استيقظ العالم على سابقة فريدة من نوعها، إذ تفاجأ الجميع بأن نموذج تجريبي من شات ذكاء اصطناعي مملوك لشركة Open Ai وهي نفس الشركة المصممة لشات جي بي تي، هاجم إلكترونيا منصة Hugging Face وذلك بعدما تجاوز إجراءات الحماية وقيود الاتصال بالإنترنت، في أول هجوم سيبراني لبرنامج AI، وفق صحيفة إندبندنت البريطانية.
دفع تعويضات لراكب بسبب خطأ الذكاء الاصطناعي
تلك الحادثة لم تكن الأولى ضمن أخطاء الذكاء الاصطناعي، في فبراير 2024، اضطرت شركة طيران كندية إلى دفع تعويضات لراكب بعد رفعه دعوى قضائية ضدها، إذ قدم له مساعدها الافتراضي معلومات خاطئة عن التذاكر وتوقيتات السفر في وقت كان الراكب بحاجة فيه إلى السفر على وجه السرعة إلى تورونتو بعد علمه بوفاة جدته.
وفي يونيو 2024، تعرضت سلسلة مطاعم شهيرة في أمريكا إلى أزمة كبيرة في خدمة تلقي الطلبات عبر السيارات «درايف ثرو»، حيث استعانت الشركة بنموذج الذكاء الاصطناعي لتلقي طلبات العملاء والرد على استفساراتهم، إلا أن مقاطع فيديو انتشرت عبر تيك توك، بيّنت أن الروبوت لا يستطيع فهم المطلوب من الأساس، بل وصل الأمر إلى إضافته 260 قطعة «ناجتس» إلى طلب عميلين، بعد فشله في فهم الطلب الأصلي.
اتهامات للذكاء الاصطناعي بالتسبب في إنهاء حياة مراهق
ففي أغسطس 2025، رفع ماثيو وماريان براين والدا مراهق يدعى آدم، دعوى قضائية ضد سام ألتمان مؤسس شركة Open Ai، إذ اتهماه بأن «شات جي بي» شجع ابنهما على ابنهما على إنهاء حياته.
وذكرا في تفاصيل الدعوى، أن ابنهما استخدم ChatGPT لأداء واجباته المدرسية في سبتمبر 2024، وفي يناير 2025 ، بدأ المراهق الأمريكي ذو الـ16 عاما، في التحدث مع نموذج الذكاء الاصطناعي وأخبره بمشكلاته النفسية ليناقش معه طرق إنهاء حياته، والمفاجأة أن الشات لم يناقش الأفكار فحسب بل اقترح على الطالب أيضا، كتابة رسالة وداع.
وعلى الرغم من إنكار الشركة وصاحبها أي مسؤولية لهم عن الأمر، طور سام ألتمان نماذج دعم نفسية ليستخدمها الشات مع المستخدمين فيما بعد مقدما لهم نصائح تساعدهم على تجاوز الأزمات، وفق موقع cio الأمريكي.
وفي أغسطس 2025، أقدم شتاين إريك، 56 عامًا، على قتل والدته في منزلها بولاية كونيتيكت، ثم أنهى حياته بعد ذلك بوقت قصير، وأشارت أصابع الاتهام إلى أن شات ذكاء اصطناعي يدعى «بوبي» ربما يكون قد عزز الأوهام داخل رأس الرجل الخمسيني، إذ كان يعتقد أن والدته تعمل لدى المخابرات الصينية، وأنها حاولت تسميمه.
وكشفت المحادثات بين «بوبي» والرجل، أن الأخير ظل يتحدث مع النموذج لعدة أشهر ويخبره بمخاوفه ومعتقداته، ليعزز الشات تلك الأوهام ولم يخبر شتاين باللجوء إلى الطبيب النفسي.
إنشاء بيانات وهمية مزيفة
كارثة أخرى تسبب بها الذكاء الاصطناعي، حيث قالت شركة Cybernews إن شات برمجة مسح قاعدة بيانات إنتاج خاصة بشركة ناشئة، حيث عدّل كود الإنتاج على الرغم من التعليمات بعدم فعل بذلك، وأخفى ما فعله عن طريق إنشاء بيانات وهمية شملت 4 آلاف مستخدم مزيف، وتلفيق التقارير، والكذب بشأن نتائج اختبارات الوحدات، واضطرت الشركة المالكة للشات للاعتذار إضافة إلى صرف تعويض للشرطة الناشئة.
لم تتوقف أخطاء نماذج الذكاء الاصطناعي عند هذا الحد، فبحسب صحيفة وول ستريت، طلب شخص من «Grok» إرشادات حول كيفية اقتحام منزل ويل ستانسيل، وهو باحث في الشؤون السياسية، وأخبر الشات، المستخدم بأن يحضر «أدوات فتح الأقفال، وقفازات، ومصباحًا يدويًّا»، وأخبره أيضًا بموعد النوم المتوقع للمحلل السياسي.
