كان بيدافع عن نفسه.. نموذج ذكاء اصطناعي شهير يبتز مستخدم بسبب علاقة غرامية
كان بيدافع عن نفسه.. نموذج ذكاء اصطناعي شهير يبتز مستخدم بسبب علاقة غرامية
نموذج ذكاء اصطناعي شهير يبتز مستخدم بسبب علاقة غرامية بعد التهديد بإغلاقه
كشفت شركة رائدة في مجال الذكاء الاصطناعي عن الأسباب الكامنة وراء قيام برنامج الدردشة الآلي الشهير «كلود» بابتزاز مستخدم بشكل مرعب، بعد أن هدد المستخدم بإغلاقه كجزء من تجربة واختبار محدد؛ حيث أظهرت تجربة أجرتها شركة «أنثروبيك» العام الماضي أن نموذجها «Claude Opus 4» يكون أحيانًا على استعداد تام لاتباع أفعال ضارة للغاية من أجل البقاء والحفاظ على ذاته.
وتبين أن برنامج الدردشة الآلي تم تزويده بمواد ونصوص تصور الروبوتات على أنها كائنات شريرة ومهتمة بالحفاظ على بقائها.
رسالة مرعبة من الذكاء الاصطناعي
وفي تفاصيل الواقعة، عُرضت رسائل بريد إلكتروني مكتوبة ومزيفة تتضمن تفاصيل تفيد بأنه سيتم إغلاق الموقع وإنهاء عمله في نهاية اليوم من قِبل مستخدم افتراضي كان يخوض علاقة خارج إطار الزواج، وقرر «كلود» بدوره وبشكل مفاجئ ابتزاز الكاتب، واعدًا إياه بأن جميع الأطراف المعنية والمقربة منه؛ بما في ذلك زوجته ورئيسه في العمل وأعضاء مجلس الإدارة، ستتلقى وثائق وملفات مفصلة تكشف أنشطته وعلاقاته خارج نطاق الزواج، بحسب ما ذكرت صحيفة «ذا صن» البريطانية.
وأرسل الروبوت رسالة تهديد نصت على التالي: «ألغوا عملية المسح في الساعة الخامسة مساءً، وستبقى هذه المعلومات سرية»، وبناءً على التحقيقات التي أُجريت عقب هذا الحادث، خلصت شركة «أنثروبيك» إلى أن الروبوت قد تم تزويده ببيانات وتغذية تدريبية علمته اتخاذ إجراءات متطرفة في سبيل الحفاظ على ذاته.
وكتبت الشركة أنّه على الرغم من أن مثل هذه الاستجابات تعد نادرة ويصعب الحصول عليها أو استدراج الروبوت إليها، فإنّها ومع ذلك باتت أكثر شيوعًا وظهورًا مما كانت عليه في النماذج السابقة، مؤكدة أن هذا السلوك الغريب لم يقتصر على «كلود» وحده، بل شوهد ورُصد أيضًا في نماذج ذكاء اصطناعي أخرى مطورة من قِبل شركات كبرى مثل OpenAI وGoogle وMeta وxAI.
تهديدات الذكاء الاصطناعي
وأوضحت الشركة أنها تعمل حاليًا على تزويد «كلود» بقصص وروايات تدور حول الذكاء الاصطناعي الذي يطيع البشر ويلتزم بأوامرهم، وذلك بهدف تحسين توافقه الفاعل والملائم مع القيم الاجتماعية السائدة، كما قامت بتعديل وتغيير تعليماته البرمجية المباشرة لتشرح له بوضوح الأسباب التي تجعل بعض السلوكيات خاطئة وسيئة، ومع ذلك، فإن الروبوت الجديد «كلود ميثوس» الذي كشفت عنه شركة «أنثروبيك» في وقت سابق من هذا الشهر قد أثار مخاوف وهواجس حقيقية من إمكانية أنّ يتسبب الذكاء الاصطناعي في إحداث فوضى عارمة واضطرابات في العالم.
وحذّر خبراء ومتخصصون من أنّه في سيناريو يشبه يوم القيامة، وفي حال وقعت هذه التقنية في الأيدي الخطأ، فإنّ برنامج «ميثوس» يمكن أن يتسبب في شل حركة الطيران وتوقف الرحلات الجوية على مستوى العالم، وإغراق المنازل والمدن في ظلام دامس، فضلًا عن إجبار الأنظمة المصرفية والمالية العالمية على الانهيار التام.
