الهلاوس الرقمية في الذكاء الاصطناعي تهدد صحة المعلومات الطبية.. «صدق الكذبة»
الهلاوس الرقمية في الذكاء الاصطناعي تهدد صحة المعلومات الطبية.. «صدق الكذبة»
اختلق باحثون مرضًا وهميًا جديدًا بإسم «بيكسينومانيا»، ولم يوثق سوى في عدد محدود من الأوراق العلمية المزيفة، وذلك بهدف اختبار قدرة أنظمة الذكاء الاصطناعي التوليدي على التمييز بين الحقائق العلمية والمعلومات المضللة.
علماء يخدعون الذكاء الاصطناعي
وبمتابعة النتائج تبين أن بعض روبوتات المحادثة ابتلعت الطعم وحذرت المستخدمين من المرض الوهمي، وكأنه حقيقي، ووصفت الأعراض وطرق الوقاية، مستندة فقط إلى البيانات المنشورة في تلك الأوراق المزيفة، لتسلط هذه التجربة الضوء على مشكلة كبيرة في عالم الذكاء الاصطناعي، وقدرة النماذج على توليد إجابات مقنعة لكنها خاطئة، وفقا لموقع nature،
ظاهرة الهلاوس الرقمية
وأشار الباحثون إلى أن هذه الظاهرة معروفة باسم «الهلاوس الرقمية»، وتنشر معلومات مضللة بسرعة، خاصة في مجالات الصحة والطب، ويمكن أن تؤثر هذه المعلومات على قرارات الناس حول الرعاية الطبية، كما يثير المقال تساؤلات حول مسؤولية مطوري الذكاء الاصطناعي في التحقق من صحة المصادر المستخدمة لتدريب الأنظمة.
وأثبتت التجربة أن الذكاء الاصطناعي لا يملك حسًا نقديًا، ويمكن أن يقنع الناس بأحداث ليس لها صلة بالواقع، وشدد الخبراء على أهمية الجمع بين التحقق البشري والتحليل العلمي عند التعامل مع معلومات صحية يقدمها الذكاء الاصطناعي، خاصة مع الاعتماد المتزايد على هذه الأنظمة في التعليم والبحث العلمي.
طرق مكافحة المعلومات المضللة
وأشار الباحثون إلى ضرورة تطوير وسائل أفضل لمكافحة المعلومات المضللة، لضمان ظهور نتائج موثوقة من الذكاء الاصطناعي وقائمة على أدلة علمية حقيقية، لتجنب أي تأثير سلبي على المجتمع وصحة الأفراد.
