خبير تكنولوجي: تطبيقات الذكاء الاصطناعي قد تصاب بـ«هلاوس»
خبير تكنولوجي: تطبيقات الذكاء الاصطناعي قد تصاب بـ«هلاوس»
قال رودي شوشاني، خبير في تكنولوجيا المعلومات من بيروت، إن الذكاء الاصطناعي مثل ChatGPT عرضة لما يُعرف بـ«هلاوس الذكاء الاصطناعي»، وهي عبارة عن إنتاج معلومات تبدو منطقية لكنها خاطئة، موضحا أنه كلما كانت البيانات المُدخلة إلى النظام خاطئة أو ملوثة، زادت احتمالات إصدار نماذج الذكاء الاصطناعي لمعلومات خاطئة.
الاعتماد على مصادر موثوقة
وأضاف خلال حواره عبر فضائية القاهرة الإخبارية، أنه لا يجب الاعتماد على مصادر غير موثوقة مثل المجتمعات الرقمية المفتوحة فقط، بل يجب بناء أنظمة مخصصة داخل المؤسسات تعتمد على البيانات المؤكدة والصحيحة لفك انفصال الهلوسة عن المحتوى المنتج.
البيانات المستخدمة في ChatGPT
وأشار إلى أن البيانات المستخدمة في ChatGPT وغيرها تمثل نسبة ضئيلة من المعلومات المتوفرة بالعالم أي ما بين 5 إلى 7% فقط، بينما يكمن الجزء الأكبر من المعلومات الحقيقية في ما يعرف بالإنترنت العميق Deep Web وخوادم المؤسسات، لذا فإن قلة المصادر العربية تزيد من احتمالية خطأ الذكاء الاصطناعي عند التعامل باللغة العربية.
وأكّد أن الهلوسة تشكّل خطرًا حقيقيًا إذا لم يتدخل الإنسان لتدقيق المعلومات، وأنه لا يمكن الاعتماد الكلي على الذكاء الاصطناعي دون تدخل بشري نهائي في اتخاذ القرارات، خصوصًا في القطاعات الحساسة مثل الطب، المال، الإعلام، وكهرباء الذكية، إذ لا تخلو أي من هذه القطاعات من آثار الهلوسات الناتجة عن بيانات مغلوطة.
