به گزارش ایسنا، پیام کبیری، اپیدمیولوژیست و عضو کانون کاکرین ایران امروز در وبینار «استفاده مسئولانه از هوش مصنوعی در پژوهشهای علوم پزشکی؛ کاربردها، ملاحظات اخلاقی و الزامات حقوقی» با اشاره به خطاهای رایج در استفاده از هوش مصنوعی در پژوهش، گفت: پژوهشگران باید هنگام استفاده از ابزارهای هوش مصنوعی، نسبت به خطاهای رایج و مخاطرات آن آگاه باشند؛ چراکه استفاده غیر مسئولانه از این ابزارها میتواند آسیبهای جدی به فعالیتهای علمی وارد کند.
وی با مرور مهمترین خطاهای تکرارشونده در استفاده از هوش مصنوعی و ارائه توصیههایی برای پیشگیری از بروز آسیب در پژوهشهای علمی، به تجربههای اخیر در دانشگاههای علوم پزشکی کشور اشاره و اظهار کرد: متاسفانه در ماههای اخیر شماری از پژوهشگران به دلیل ناآگاهی و استفاده غیر مسئولانه یا غیرمتعهدانه از هوش مصنوعی، با مشکلات و آسیبهای علمی مواجه شدهاند.
عضو کانون کاکرین ایران مهمترین چالش استفاده از هوش مصنوعی در پژوهش را تولید منابع و مراجع جعلی دانست و توضیح داد: یکی از جدیترین مشکلات این فناوری، ارائه رفرنسهای ساختگی است که میتواند اعتبار پژوهش را با مخاطره روبرو کند. علاوه بر این، پدیده «توهم» (Hallucination) که از ویژگیهای ذاتی مدلهای هوش مصنوعی است، باعث میشود این ابزارها در برخی موارد اطلاعات نادرست یا فاقد پشتوانه علمی تولید کنند.
کبیری ادامه داد: سوگیری (Bias) در دادههای آموزشی و اتکای بیش از حد پژوهشگران به خروجیهای هوش مصنوعی نیز از دیگر چالشهای مهمی است که در سالهای اخیر، چه در فعالیتهای علمی و چه در زندگی روزمره، بیش از گذشته مشاهده میشود.
وی در تشریح علت تولید رفرنسهای جعلی توسط هوش مصنوعی، اظهار کرد: مدلهای هوش مصنوعی بر پایه پیشبینی توالی کلمات (Prediction Model) عمل میکنند. این سامانهها هنگام تولید پاسخ، بر اساس احتمال وقوع کلمات بعدی در میان دادههای آموزشی خود، متن را تولید میکنند و همین سازوکار گاهی موجب ایجاد منابعی میشود که در ظاهر کاملا واقعی هستند، اما در عمل وجود خارجی ندارند.
عضو کانون کاکرین ایران افزود: در بسیاری از موارد، هوش مصنوعی نام نویسندگان را از یک مقاله، عنوان مقاله را از مقالهای دیگر، نام مجله را از منبعی متفاوت و اطلاعاتی مانند جلد، شماره یا صفحات را از منابع دیگر کنار هم قرار میدهد و در نهایت رفرنسی تولید میکند که تمام اجزای آن ممکن است واقعی باشند، اما ترکیب نهایی آن هیچگاه منتشر نشده و وجود خارجی ندارد.
وی تصریح کرد: این مشکل تنها به منابع علمی محدود نمیشود و ممکن است در سایر اطلاعات نیز رخ دهد؛ به گونهای که هوش مصنوعی درباره انتساب یک شعر، نقلقول یا هر داده دیگری نیز اطلاعات نادرست ارائه کند و حتی پس از تذکر کاربر، پاسخهای متفاوت اما همچنان اشتباه تولید کند.
کبیری با تأکید بر ضرورت راستی آزمایی اطلاعات تولیدشده توسط هوش مصنوعی، گفت: پژوهشگران نباید به منابع ارائه شده توسط این ابزارها اکتفا کنند و لازم است هنگام جست و جوی رفرنسها، از هوش مصنوعی بخواهند منابع را از پایگاههای معتبر علمی مانند PubMed یا Crossref استخراج کند تا امکان بررسی و اعتبارسنجی آنها فراهم شود.
جعل آیههای قرآنی با هوش مصنوعی
کبیری با اشاره به محدودیت دسترسی ابزارهای هوش مصنوعی به برخی پایگاههای علمی، گفت: به دلیل محدودیت دسترسی این ابزارها به برخی پایگاههای اطلاعاتی مانند اسکوپوس، نمیتوان از آنها انتظار داشت که همه منابع را از این پایگاهها استخراج کنند و همین موضوع یکی از دلایل بروز خطا در تولید منابع است. تجربههای متعددی نشان داده است که ابزارهای هوش مصنوعی عمومی میتوانند علاوه بر تولید رفرنسهای جعلی، در سایر حوزهها نیز اطلاعات ساختگی ارائه دهند. برای نمونه، ممکن است آیهای از قرآن، نقلقول یا هر محتوای دیگری را تولید کنند که در ظاهر صحیح به نظر میرسد، اما در واقع هیچگونه وجود خارجی ندارد.
عضو کانون کاکرین ایران تصریح کرد: این دسته از خطاها بیشتر در ابزارهای هوش مصنوعی عمومی مشاهده میشود، اما در ابزارهایی که بر پایه مقالات علمی منتشرشده آموزش دیدهاند، احتمال تولید منابع جعلی بهمراتب کمتر است.
وی با اشاره به برخی ابزارهای تخصصی هوش مصنوعی در حوزه پژوهش، اظهار کرد: سامانههایی مانند Perplexity، Consensus، SciSpace، Elicit، Connected Papers، Research Rabbit و Scite بر اساس میلیونها مقاله علمی آموزش دیدهاند و منبع آموزشی آنها مقالات واقعی منتشرشده در مجلات علمی است؛ از این رو هنگام جستوجوی منابع در این سامانهها، نگرانی درباره تولید رفرنسهای جعلی بسیار کمتر خواهد بود. این ابزارها برای پژوهشگران دانشگاهی همان جایگاهی را دارند که «گوگل اسکالر» در مقایسه با موتور جستوجوی عمومی گوگل دارد و به همین دلیل استفاده از آنها برای فعالیتهای پژوهشی توصیه میشود.
ارائه ۷ رفرنس جعلی از میان ۱۷ رفرنس ارائه شده
وی با تأکید بر ضرورت حساسیت نسبت به اعتبار منابع علمی، گفت: موضوع تولید رفرنسهای جعلی باید بسیار جدی گرفته شود. متاسفانه اخیرا در یکی از مجلات معتبر علمی، مقالهای منتشر شد که از میان ۱۷ منبع مورد استناد آن، هفت رفرنس جعلی بود و حتی یکی از افرادی که نامش بهعنوان نویسنده یکی از این منابع ذکر شده بود، اعلام کرد که چنین مقالهای را هرگز ننوشته است.
عضو کانون کاکرین ایران با اشاره به پدیده «توهم» (Hallucination) در هوش مصنوعی، اظهار کرد: پژوهشگران نباید به خلاصههایی که هوش مصنوعی از مقالات علمی ارائه میکند، بدون بررسی اعتماد کنند و لازم است این خلاصهها با متن اصلی مقاله تطبیق داده شود. در برخی موارد، هنگامی که از هوش مصنوعی درخواست معرفی منابع یا مقالات ۵ سال اخیر میشود، این ابزار مقالات قدیمیتر را معرفی میکند یا برای ارائه سریع و کامل پاسخ، اطلاعاتی تولید میکند که اساساً وجود خارجی ندارند.
کبیری با اشاره به سوگیری دادهها در مدلهای هوش مصنوعی با تاکید بر اینکه اگر دادههایی که یک مدل هوش مصنوعی بر اساس آنها آموزش دیده دارای سوگیری باشند، طبیعی است که پاسخهای تولید شده نیز متأثر از همان سوگیری بوده و از دقت علمی لازم برخوردار نباشند، ادامه داد: یکی دیگر از چالشهای مهم، ناتوانی برخی ابزارهای هوش مصنوعی در درک دقیق اصطلاحات تخصصی رشتههای مختلف است. برای مثال، در پژوهشهای پزشکی و روش تحقیق، میان مفاهیمی مانند «همبستگی» (Association) و «رابطه علت و معلولی (Causality)» تفاوت علمی مهمی وجود دارد، اما گاهی هوش مصنوعی این تفاوتهای مفهومی را به درستی تشخیص نمیدهد.
عضو کانون کاکرین ایران تأکید کرد: حتی زمانی که از هوش مصنوعی تنها برای ویرایش متن انگلیسی مقالات استفاده میشود، پژوهشگر متخصص باید متن را مجدداً بهطور کامل مطالعه کند، زیرا ممکن است ابزار هوش مصنوعی واژه یا اصطلاحی را به کار برده باشد که از نظر تخصصی مفهوم متفاوتی را منتقل کند.
وی خاطرنشان کرد: سرعت بالای پاسخگویی هوش مصنوعی باعث شده است برخی پژوهشگران بیش از اندازه به خروجیهای این ابزارها اتکا کنند، در حالی که هیچیک از پاسخهای تولیدشده نباید بدون بررسی، راستیآزمایی و قضاوت علمی پژوهشگر مورد استفاده قرار گیرد.
دخالت هوش مصنوعی از حوزه سلامت تا روابط خانوادگی
کبیری با اشاره به گسترش استفاده عمومی از هوش مصنوعی در حوزه سلامت، گفت: امروزه بسیاری از افراد پاسخ آزمایشها، تصاویر سیتیاسکن و حتی پرسشهای مربوط به داروها و بیماریهای خود را از هوش مصنوعی میپرسند. هرچند استفاده از این ابزارها بهخودیخود منعی ندارد، اما نباید فراموش کرد که تصمیمگیری نهایی همواره بر عهده انسان است و مسئولیت پاسخها و تصمیمهای اتخاذشده نیز متوجه انسان خواهد بود.
وی افزود: از پژوهشگران و اعضای هیئت علمی درخواست میکنم بیش از اندازه به هوش مصنوعی تکیه نکنند. هوش مصنوعی نباید جایگزین تفکر انسان شود، بلکه باید بهعنوان دستیار پژوهشگر مورد استفاده قرار گیرد. متأسفانه در برخی موارد این روند برعکس شده و افراد به جای آنکه از هوش مصنوعی بهعنوان ابزار کمک بگیرند، خود به نوعی به دستیار این فناوری تبدیل شدهاند.
عضو کانون کاکرین ایران ادامه داد: حتی مشاهده میشود که برخی افراد در مسائل شخصی و روابط خانوادگی نیز از هوش مصنوعی برای تصمیمگیری کمک میگیرند، در حالی که این موضوعات به قضاوت انسانی، شناخت شرایط و مدیریت فردی نیاز دارد و نباید به هوش مصنوعی واگذار شود.
باز شدن پای هوش مصنوعی در داوری مقالات
وی با اشاره به کاربرد هوش مصنوعی در فرآیند داوری مقالات علمی، اظهار کرد: این فناوری میتواند در ارزیابی مقالات عملکرد مناسبی داشته باشد و حتی بررسیها نشان میدهد تعداد قابل توجهی از داوران مجلات علمی از هوش مصنوعی برای کمک به داوری مقالات استفاده میکنند.
کبیری افزود: بر اساس مطالعهای که یکی از ناشران معتبر علمی انجام داده است، بیش از ۶۰ درصد داورانی که مقالات علمی را برای ارزیابی دریافت کردهاند، از هوش مصنوعی در فرآیند داوری بهره گرفتهاند. هرچند این ابزارها میتوانند تحلیلهای مفیدی ارائه دهند، اما از نظر اخلاق پژوهش، واگذاری کامل داوری مقاله به هوش مصنوعی مجاز نیست؛ زیرا این اقدام میتواند محرمانگی مقاله ارسالی را نقض کند.
وی ادامه داد: در یکی از مقالات منتشرشده در مجله «لنست» نیز مدل جدیدی با عنوان «Human + AI» پیشنهاد شده است که بر اساس آن، ابتدا هوش مصنوعی فرآیند داوری را انجام میدهد، اما نتیجه نهایی در اختیار داور انسانی قرار میگیرد تا پس از بررسی، درباره پذیرش، رد یا اصلاح پیشنهادهای هوش مصنوعی تصمیمگیری کند.
عضو کانون کاکرین ایران با اشاره به نگرانی برخی پژوهشگران، پزشکان، مترجمان، ویراستاران و فعالان حوزه نشر از تأثیر هوش مصنوعی بر آینده شغلی آنها، گفت: این نگرانیها پیشتر نیز درباره فناوریهای نوین وجود داشته است، اما تجربه نشان میدهد که فناوری بیش از آنکه جایگزین انسان شود، نقش توانمندساز برای او ایفا میکند.
جایی که ربات داوینچی نتوانست با انسان رقابت کند
وی برای تبیین این موضوع به ربات جراحی «داوینچی» اشاره کرد و افزود: این ربات از سال ۲۰۰۰ وارد حوزه پزشکی شده و اکنون در بسیاری از بیمارستانهای معتبر جهان مورد استفاده قرار میگیرد. در زمان معرفی این فناوری، بسیاری از جراحان نگران از دست دادن شغل خود بودند، اما پس از گذشت بیش از دو دهه، همچنان این جراح است که پشت دستگاه قرار میگیرد و از ربات بهعنوان ابزاری برای انجام دقیقتر و موفقتر عمل جراحی استفاده میکند.
کبیری تأکید کرد: هوش مصنوعی نیز باید با همین نگاه مورد استفاده قرار گیرد؛ یعنی بهعنوان ابزاری که با افزایش دقت، کاهش زمان انجام کارها و ارتقای بهرهوری، پژوهشگر و پزشک را در انجام وظایف خود یاری میکند، نه اینکه جایگزین آنها شود.
وی خاطرنشان کرد: نباید فراموش کنیم که فناوری برای خدمت به انسان توسعه یافته است، نه اینکه انسان در خدمت فناوری قرار گیرد. از این رو، استفاده صحیح، آگاهانه و مسئولانه از هوش مصنوعی میتواند کیفیت فعالیتهای علمی و پژوهشی را ارتقاء دهد، اما تصمیمگیری نهایی و مسئولیت نتایج همواره بر عهده انسان خواهد بود.
کبیری در پایان، به معرفی یک پادکست آموزشی تهیهشده توسط همکاران دانشگاه علوم پزشکی تهران در زمینه استفاده مسئولانه از هوش مصنوعی پرداخت و آن را منبعی مناسب برای آشنایی بیشتر پژوهشگران با کاربردها و ملاحظات این فناوری عنوان کرد.
انتهای پیام
