كارثة وشيكة.. مؤسس شركة جوجل يحذر من خروج الذكاء الاصطناعي عن السيطرة

كتب: أنس سعد

كارثة وشيكة.. مؤسس شركة جوجل يحذر من خروج الذكاء الاصطناعي عن السيطرة

كارثة وشيكة.. مؤسس شركة جوجل يحذر من خروج الذكاء الاصطناعي عن السيطرة

حذر ديميس هاسابيس، المؤسس المشارك لشركة جوجل ديب مايند، من أن التطور غير المنضبط للذكاء الاصطناعي قد يؤدي إلى كارثة كبرى، ويشبه الضرر المحتمل بـ«تسرب نفطي»، مشيرا إلى أنظمة الذكاء الاصطناعي ذاتية التطوير والوكلاء غير الخاضعين للمراقبة الكافية باعتبارهم مخاطر جسيمة، ويحث الشركات على تعزيز إجراءات السلامة والرقابة البشرية، وفقا لموقع تايمز ناو.

لماذا يشعر هاسابيس بالقلق بشأن تحسين الذكاء الاصطناعي لذاته؟

وأوضح «هاسابيس» أن المرحلة التالية من نمو الذكاء الاصطناعي قد تصبح خطيرة للغاية عندما تبدأ الأنظمة بتحسين نفسها ذاتيًا دون مراجعة بشرية لتقدمها، مضيفًأ: «أعتقد أن المرحلة التالية، والتي تنطوي على أكبر قدر من المخاطر، هي مرحلة الذكاء الاصطناعي المغلق، حيث يتمكن المستخدم بطريقة أو بأخرى من إيجاد طريقة للقيام بذلك دون الحاجة إلى مراجعة بشرية، سيحدث نوع من الحوادث، كما تعلمون، أسميها أحياناً مثل تسرب النفط، على المسار الحالي إذا لم نكن، إذا لم نتكاتف جميعاً، إذا لم يولي الجميع مزيداً من الاهتمام ويخصصوا المزيد من الموارد لهذه الأنواع من الأنظمة».

خطورة التحسن الذاتي المتكرر

ويتيح مفهوم التحسين الذاتي المتكرر لأنظمة الذكاء الاصطناعي الاستفادة من أدائها السابق، والتعلم من تجاربها لتطوير إصدارات أكثر كفاءة وتقدمًا، واستشهد هاسابيس بنظام «ألفا زيرو» التابع لشركة «ديب مايند» مثالًا على ذلك، إذ تمكن النظام من تعلم لعبة الشطرنج من خلال خوض ملايين المباريات أمام نفسه.

وفي حديثه عن التطور السريع للنظام، قال هاسابيس: «كنت لا أزال بالكاد أستطيع التغلب عليه، لكن بحلول وقت الغداء أصبح بمستوى أستاذ كبير، وبحلول وقت الشاي تفوق على أي لاعب شطرنج آخر».