دوشنبه ۵ مرداد ۱۴۰۵ | ۱۳:۴۰
همدلی مصنوعی؛ خطری واقعی

همدلی مصنوعی؛ خطری واقعی

خراسان رضوی (ایسنا) - چت‌بات‌های مبتنی بر هوش مصنوعی می‌توانند در دسترس، شخصی‌سازی‌شده و همدلانه به نظر برسند، اما نتایج پژوهش جدید نشان می‌دهد که شواهد کافی درباره ایمنی، اثربخشی بلندمدت و ارزش بالینی واقعی آنها وجود ندارد.

حدود ۲۵ درصد از مردم جهان با مشکل سلامت روان مواجه‌ هستند و حدود ۸۵ درصد از آنان درمان کافی دریافت نمی‌کنند. موانعی مانند انگ اجتماعی، هزینه‌های درمان، کمبود متخصصان، فاصله جغرافیایی و نابرابری‌های ساختاری از مهم‌ترین دلایل این شکاف درمانی محسوب می‌شوند.

افزایش شیوع اختلالات روانی در کنار دسترسی محدود به خدمات درمانی، توجه به راهکارهای نوآورانه برای مراقبت از سلامت روان را افزایش داده است. در این میان، ابزارهای دیجیتال به دلیل دسترسی آسان و قابلیت ارائه خدمات در مقیاس گسترده، به گزینه‌ای مورد توجه برای ارائه خدمات و مداخلات سلامت روان تبدیل شده‌اند.

مداخلات دیجیتال سلامت روان از طریق چت‌بات‌ها، وب‌سایت‌ها، اپلیکیشن‌های موبایل و ابزارهای پوشیدنی و دیگر فناوری‌ها، خدمات درمانی یا حمایتی ارائه می‌کنند. عامل‌های مکالمه یا چت‌بات‌ها، برنامه‌هایی هستند که با استفاده از الگوریتم‌های یادگیری ماشین و پردازش زبان طبیعی، گفت‌وگوی انسانی را شبیه‌سازی می‌کنند.

چت‌بات‌های سنتی سلامت روان معمولا محتوای درمانی از پیش‌ تعیین‌ شده را بر اساس سیستم‌های مبتنی بر قواعد یا بازیابی اطلاعات ارائه می‌دهند با این حال، توانایی محدودی در شخصی‌سازی حمایت‌ها و تشخیص نیازهای کاربران دارند.

برخلاف چت‌بات‌های سنتی، چت‌بات‌های مبتنی بر مدل‌های زبانی بزرگ (LLM) می‌توانند برخی از جنبه‌های اصلی تعاملات درمانی، ازجمله ارائه پیشنهادهای شخصی‌سازی‌شده و بازتاب‌های همدلانه را شبیه‌سازی کنند. با این حال، سیستم‌های هوش مصنوعی مولد ممکن است پاسخ‌های نادرست یا نامناسب ارائه دهند. افزون بر این، قابلیت گفت‌وگوی آزاد و بدون چارچوب مشخص در این سیستم‌ها، طراحی مداخلات سلامت روان را در مقایسه با سامانه‌های مبتنی بر قواعد، پیچیده‌تر و حساس‌تر می‌کند.

پژوهشگران، طراحی و تجربه کاربری (UX) چت‌بات‌های سلامت روان مبتنی بر هوش مصنوعی مولد را بررسی کردند. پس از جست‌وجوی نظام‌مند منابع علمی، ۲۱ پژوهش از ۱۱ کشور در فاصله سال‌های ۲۰۲۳ تا ۲۰۲۵ انتخاب شد که بیشترین آنها مربوط به چین و بریتانیا و سپس آمریکا بود. این پژوهش‌ها از ارزیابی نمونه‌های اولیه تا کارآزمایی‌های بالینی و یک مورد استفاده در دنیای واقعی را دربرمی‌گرفتند و تعداد شرکت‌کنندگان آنها بین پنج تا ۵۲۷ نفر متغیر بود. با وجود تنوع گروه‌های مورد بررسی، بیشتر مداخلات همچنان در مراحل اولیه توسعه قرار داشتند و تفاوت قابل‌توجهی در معیارهای ارزیابی نتایج پژوهش‌ها وجود داشت.

همدلی مصنوعی؛ خطری واقعی

بیشتر این چت‌بات‌ها برای کمک به افراد مبتلا به افسردگی و اضطراب طراحی شده بودند و از روش‌هایی مانند ذهن‌آگاهی، تنظیم هیجانات و بازسازی شناختی استفاده می‌کردند. برخی دیگر بر سلامت روان عمومی، استرس، تنهایی، اختلالات خوردن، اختلال استرس پس از سانحه و حتی مسائل روان‌شناختی مرتبط با زوال عقل تمرکز داشتند.

نتایج نشان داد که کاربران در مجموع، این ابزارها را مناسب، در دسترس و نسبتا رضایت‌بخش ارزیابی کردند. بسیاری از کاربران، گفت‌وگوهای آزاد و قابلیت شخصی‌سازی را به گزینه‌های از پیش تعیین‌ شده ترجیح می‌دادند. برخی چت‌بات‌ها نیز با تشخیص وضعیت عاطفی کاربر، پاسخ‌ها و تعاملات خود را متناسب با شرایط وی تغییر می‌دادند.

با این حال، رضایت کاربران به معنای اثربخشی درمانی نیست زیرا نتایج نشان داد، شخصی‌سازی و پاسخ‌های همدلانه همیشه به بهبود نتایج بالینی یا استفاده مداوم از چت‌بات‌ها منجر نمی‌شود. در مداخلات چند هفته‌ای، میزان استفاده در ابتدا بالا بود، اما با گذشت زمان کاهش یافت. همچنین برخی کاربران از دریافت پاسخ‌های تکراری، کلی یا نامتناسب با شرایط و زمینه گفت‌وگو شکایت داشتند.

توانایی چت‌بات‌ها برای واکنش مناسب در شرایط بحرانی نیز ازجمله نگرانی‌های مطرح‌ شده در این پژوهش‌ها بود. برخی کاربران درباره وابستگی بیش از حد به چت‌بات‌ها، کاهش ارتباط انسانی، حریم خصوصی داده‌ها و توانایی این سیستم‌ها برای واکنش مناسب در شرایط بحرانی ابراز نگرانی کردند. همچنین، پاسخ‌های نادرست یا ناسازگار با زمینه بالینی در برخی پژوهش‌ها با کاهش اعتماد کاربران و کاهش مشارکت آنان همراه بود.

پژوهشگران تاکید کردند که بیشتر مداخلات هنوز در مراحل اولیه توسعه قرار دارند و تفاوت در معیارهای ارزیابی و محدود بودن مقایسه‌های مستقیم، امکان نتیجه‌گیری قطعی درباره اینکه کدام ویژگی‌های طراحی به بهبود تجربه کاربری کمک می‌کنند را محدود کرده است.

آنان بر ضرورت انجام تحقیقات بلندمدت، استفاده از معیارهای معتبر برای ارزیابی تجربه کاربری، گزارش‌دهی شفاف، ارزیابی مستقل و توجه بیشتر به ایمنی، عدالت و محدودیت‌های چت‌بات‌ها در واکنش به شرایط بحرانی تاکید کردند. همچنین بر مشارکت متخصصان و کاربران در طراحی این ابزارها و شفافیت بیشتر درباره طراحی مدل‌ها و داده‌های آموزشی آنان تاکید داشتند.

مدیکال نیوز گزارش کرد، در مجموع، چت‌بات‌های مبتنی بر هوش مصنوعی مولد ظرفیت قابل‌توجهی برای ارائه حمایت‌های شخصی‌سازی‌شده و همدلانه از سلامت روان دارند، اما استانداردسازی ارزیابی تجربه کاربری، حفظ مشارکت کاربران در بلندمدت و اطمینان از ایمنی این ابزارها همچنان از چالش‌های اصلی هستند.

نتایج این پژوهش در نشریه npj Digital Medicine منتشر شده است.

انتهای پیام

آخرین اخبار استان ها