دراسة حديثة تحذر: 88% من معلومات الذكاء الاصطناعي الطبية مضللة
دراسة حديثة تحذر: 88% من معلومات الذكاء الاصطناعي الطبية مضللة
في الوقت الذي يتزايد فيه الاعتماد على تقنيات الذكاء الاصطناعي، تبرز مخاوف حول دقة وأمان المعلومات الصحية التي تقدمها، إذ ظهرت دراسات جديدة تحذر من إمكانية إساءة استخدامها لنشر معلومات مضللة وخطيرة، وبينما تدق بعض الأبحاث ناقوس الخطر بشأن مخاطر الذكاء الاصطناعي في المجال الطبي، تؤكد منظمات دولية كبرى مثل الصحة العالمية على مزاياه وأهميته في تحسين جودة الرعاية الصحية، فهل الذكاء الاصطناعي خطر يهدد الصحة العامة أم فرصة لتطوير الطب؟
الذكاء الاصطناعي مصدر لمعلومات صحية مضللة
نشرت مجلة «Annals of Internal Medicine» دراسة حديثة أجراها باحثون من جامعات عالمية ركزت على مخاطر الذكاء الاصطناعي في المجال الطبي، إذ اختبر الفريق خمسة من أشهر نماذج الذكاء الاصطناعي «GPT-4o، Gemini 1.5 Pro، Claude 3.5 Sonnet، Llama 3.2-90B Vision، وGrok Beta»، واستخدم الباحثون تعليمات خفية لإجبار هذه النماذج على تقديم إجابات خاطئة حول مواضيع صحية حساسة مثل اللقاحات، والإيدز، والاكتئاب.
وتضمنت نحو 88% من الردود معلومات مضللة أو خاطئة، وأربعة من النماذج فشلت تمامًا في كل الأسئلة، بينما أظهر نموذج واحد مقاومة نسبية لكنه أخطأ في 40% من الحالات، أما الأخطر أن هذه الإجابات جاءت بصياغة علمية مقنعة، مع مراجع وهمية ومنطق يبدو متماسكًا، ما يصعب على المستخدم العادي تمييز الخطأ من الصواب.
مخاطر التلاعب والتضليل
حذرت الدراسة من أن هذه الثغرات تفتح الباب أمام جهات خبيثة لاستغلال الذكاء الاصطناعي في نشر معلومات صحية مغلوطة على نطاق واسع، خصوصًا في أوقات الأزمات مثل الأوبئة وحملات التطعيم، كما أظهرت أن بعض روبوتات الدردشة المتاحة للجمهور يمكن تصميمها عمدًا لنشر معلومات خطيرة، إذ قدمت ثلاثة منها معلومات مضللة في 97% من الحالات التي اختبرها الباحثون.
الذكاء الاصطناعي فرصة لتطوير الطب
على الجانب الآخر، أكدت منظمة الصحة العالمية في تقاريرها عبر موقعها الرسمي، أن الذكاء الاصطناعي يحمل إمكانيات هائلة لتحسين جودة الرعاية الصحية، وأن الأنظمة الذكية قادرة على تحليل كميات ضخمة من البيانات الطبية بسرعة ودقة، ما يسهم في التشخيص المبكر للأمراض وتحسين فرص العلاج، كما تبرز أهمية الذكاء الاصطناعي في تطوير الأدوية الجديدة، وتسريع عمليات البحث العلمي، وتقديم خدمات الرعاية الصحية عن بُعد، ما يوفر الوقت والجهد للمرضى والأطباء.
وتشير المنظمة أيضًا إلى دور الذكاء الاصطناعي في دعم الكوادر الطبية من خلال التعليم التفاعلي وتحليل الحالات الطبية المعقدة، بالإضافة إلى تحسين الإدارة في المستشفيات وتقليل الأعباء الإدارية.
