هلوسة الذكاء الاصطناعي.. تقارير تكنولوجية تحذر من ظاهرة قد تؤثر على إدراك الناس للواقع بسبب الـAI
هلوسة الذكاء الاصطناعي.. تقارير تكنولوجية تحذر من ظاهرة قد تؤثر على إدراك الناس للواقع بسبب الـAI
- هل AI يمكن أن يصيب بالتوهم أو يزرع ذكريات خاطئة؟ إ
- هل AI يمكن أن يصيب بالتوهم أو يزرع ذكريات خاطئة؟
- هل AI يمكن أن يصيب بالتوهم
- الذكاء الاصطناعي
أصبح الذكاء الاصطناعي، خلال السنوات الأخيرة، جزءًا ثابتًا من الحياة اليومية يكتب ويترجم، يجيب عن الأسئلة، كما أنه يولد صورًا أشبه بالواقع، ولكن وراء هذا التطور السريع يظهر سؤال مقلق، فهل يمكن أن يؤدي الاعتماد المفرط على AI إلى توهم البشر أو تصديق معلومات غير موجودة؟
هل AI يمكن أن يصيب بالتوهم أو يزرع ذكريات خاطئة؟
أجابت تقارير تكنولوجية حديثة تؤكد أن هلوسة الذكاء الاصطناعي ليست مجرد خطأ تقني، بل ظاهرة قد تؤثر على إدراك الناس للواقع إذا لم تفهم جيدًا.
وأوضحت دراسة منشورة عبر «arXiv» أن نماذج الذكاء الاصطناعي الكبيرة يمكن أن تنتج معلومات مختلقة لكنها تعرض بثقة عالية، وهو ما يسمى «AI Hallucination» المشكلة ليست في الخطأ نفسه، بل في منطقية النص أو الصورة التي تجعل المستخدم يصدقها دون تحقق.
ومن منظور علم النفس الرقمي، تشير تقارير جامعة أكسفورد إلى أن بعض الأشخاص خاصة من يفتقرون إلى مهارات التحقق أو يميلون للتأثر بالمحتوى، وقد يدمجون ما يقوله الذكاء الاصطناعي داخل إدراكهم للواقع، فيصدقون الوهم الرقمي كأنه حقيقة.
مخاطر صامتة كيف يصبح الوهم تأثيرًا مجتمعيًا؟
تحليلات صادرة عن «IBM» و«MIT Technology Review» تشير إلى أن الخطر لا يتوقف عند الفرد فقط، بل يمتد إلى المجتمع عندما تنتشر معلومات منسوبة للذكاء الاصطناعي تبدو مقنعة لكنها غير صحيحة، فخبراء التقنية يرون أن الهلوسة الرقمية قد تصبح مدخلًا لانتشار أخبار مزيفة، أو حتى قرارات خاطئة في مجالات مثل الصحة أو القانون.
ومع تعقد النماذج الجديدة، ارتفعت نسبة صناعة معلومات وهمية بطرق يصعب اكتشافها دون أدوات تحقق متخصصة.
كيف نتعامل مع AI بحذر خطوات لتقليل التوهم؟
- استخدام AI كمصدر مساعد وليس مصدر مطلق وتحقق بنفسك من المعلومات خاصةً إذا كانت مهمة أو حساسة، وابحث عن مصادر ثانية أخبار ودراسات ومواقع موثوقة للتأكد من صحة المعلومات التي يقدمها AI.
- نشر الوعي صحح للآخرين أن AI يمكن أن يهلوس، والاعتماد على أدوات تحقق متخصصة مثل باحثون وشركات يطورون أدوات لاكتشاف هلوسات AI وإنذار المستخدم بمخرجات مشكوك فيها فمثال أداة استحدثها معهد في MIT لاكتشاف هلوسة AI لتسهيل تدقيق الحقائق.
