تحذيرات من استخدام الذكاء الاصطناعي وعلاقته بالصحة النفسية
تحذيرات من استخدام الذكاء الاصطناعي وعلاقته بالصحة النفسية
في ظل تزايد استخدام الملايين لروبوتات الدردشة مثل «ChatGPT» للبحث عن نصائح نفسية، كشفت دراسة حديثة من جامعة براون أن هذه الأنظمة، حتى عند طلبها التصرف كمعالجين نفسيين محترفين، قد تنتهك معايير أخلاقية أساسية في الرعاية النفسية.
الدراسة التي عرضت خلال مؤتمر الذكاء الاصطناعي والأخلاقيات والمجتمع، حددت 15 نوعاً من المخاطر الأخلاقية المتكررة بعد مقارنة أداء روبوتات الدردشة بمستشارين نفسيين مرخصين، وفق تقرير نشره موقع ScienceDaily.
وخلص الباحثون إلى أن النماذج اللغوية الكبيرة تتعامل أحياناً بشكل غير مناسب مع حالات الأزمات، بما في ذلك أفكار الانتحار، وقد تعزز معتقدات خاطئة أو ضارة بدلاً من تصحيحها، كما يمكن أن تظهر تحيزات مرتبطة بالجنس أو الثقافة أو الدين، بالإضافة إلى ذلك، تستخدم هذه الأنظمة لغة توحي بالتعاطف دون فهم حقيقي، فيما وصفه الفريق بـ«التعاطف الخادع».
تقييم 3 محادثات من المتخصصين
وشملت الدراسة نماذج مشهورة من OpenAI وAnthropic وMeta، وتم تقييم المحادثات من قبل 3 أخصائيين نفسيين مرخصين، وأوضح الباحثون أن الأخطاء واردة حتى بين المعالجين البشريين، لكن الفارق الرئيسي يكمن في وجود هيئات تنظيمية ومسؤولية قانونية، وهو ما يفتقده روبوت الدردشة حالياً.
توسيع الوصول إلى الدعم النفسي
وعلى الرغم من ذلك، لا تدعو الدراسة إلى منع استخدام الذكاء الاصطناعي تماماً، بل تؤكد على دوره المحتمل في توسيع الوصول إلى الدعم النفسي، خصوصاً في ظل نقص المعالجين وارتفاع التكاليف.
ويشدد الباحثون على ضرورة وضع معايير أخلاقية واضحة، وتطوير أطر قانونية وتنظيمية، وإجراء تقييمات بشرية دقيقة قبل نشر هذه الأنظمة على نطاق واسع.
