به گزارش ایسنا، خلاصه‌های تولیدشده توسط هوش مصنوعی به طور فزاینده‌ای در حال رایج شدن هستند؛ از پیش‌نمایش مقاله‌های خبری گرفته تا رونوشت جلسات محل کار و موارد حساس مانند فیلم دوربین‌های نصب‌شده روی لباس پلیس. با وجود این، یک پژوهش جدید نشان می‌دهد که هوش مصنوعی ممکن است اطلاعات گمراه‌کننده یا نادرستی را تولید کند.

به نقل از یورک‌الرت، پژوهش انجام‌شده توسط گروهی از پژوهشگران «دانشگاه جورج‌تاون»(Georgetown University) و «دانشگاه واشنگتن»(University of Washington) نشان می‌دهد که وقتی از سیستم‌های هوش مصنوعی خواسته می‌شود ویدیویی را خلاصه کنند، ارائه اطلاعات نادرست توسط آنها می‌تواند بر حافظه و درک افراد از حقیقت تأثیر بگذارد و آن را دستخوش تغییر کند.

«یوشی کوهنو»(Yoshi Kohno) از پژوهشگران این پروژه گفت: این پژوهش بخشی از تلاشی فزاینده در دانشگاه جورج‌تاون است که با تکیه بر روان‌شناسی و علوم رایانه انجام شده و بر بررسی تأثیر هوش مصنوعی و انسان بر یکدیگر و رابطه میان آنها تمرکز دارد.

خلاصه‌های تهیه‌شده توسط هوش مصنوعی ممکن است جزئیات مهمی را از قلم بیندازند. یافته‌های پیشین نیز این موضوع را تأیید می‌کنند. رایج‌ترین نوع خطا در این پژوهش، حذف یا عدم اشاره به رویدادهای اصلی یک ویدیوی انیمیشنی مربوط به تصادف خودرو با عابر پیاده بود. در همه دستورها (پرامپت‌ها) و مدل‌ها، این خلاصه‌ها به ‌طور میانگین ۵۱٫۶ درصد از جزئیات محوری را حذف کردند. به‌جز یک مورد، همه خلاصه‌ها (۹۵ درصد) اصلی‌ترین جزئیات رویداد موجود در ویدیو یعنی برخورد خودرو با عابر پیاده را از قلم انداختند.

خلاصه‌ گمراه‌کننده‌ هوش مصنوعی می‌تواند حافظه‌ افراد را درباره یک رویداد تحریف کند. در این پژوهش، از شرکت‌کنندگان پرسیده شد که خودروی موجود در ویدیو به تابلوی «ایست» رسیده است یا تابلوی «حق تقدم». پژوهشگران دریافتند ۸۳.۶ درصد از شرکت‌کنندگانی که خلاصه‌ای حاوی اطلاعات دقیق درباره‌ ویدیو را مطالعه کرده بودند، پاسخ درست دادند؛ در حالی که پس از خواندن خلاصه‌ای گمراه‌کننده، تنها ۴۴.۸ درصد از شرکت‌کنندگان پاسخ درست را ارائه کردند.

افراد ممکن است صرف‌نظر از این که تصور کنند خلاصه توسط هوش مصنوعی نوشته شده یا انسان، در برابر اطلاعات نادرست موجود در خلاصه‌های هوش مصنوعی آسیب‌پذیر باشند. در این پژوهش، تأثیر خلاصه‌های گمراه‌کننده هوش مصنوعی بر حافظه انسان، به میزان اعتماد یا آشنایی افراد با هوش مصنوعی وابسته نبود.

«ماتیا سیم»(Mattea Sim)، سرپرست این پژوهش گفت: هوش مصنوعی، روشی نوین برای انتشار اطلاعات نادرست است و این پتانسیل را دارد که در ذهن خوانندگان آن اطلاعات، خاطرات کاذب ایجاد کند. به گمانم باید بسیار عمیق و نقادانه بیندیشیم که آیا هوش مصنوعی باید برای خلاصه‌سازی اطلاعات به کار گرفته شود یا خیر و اگر پاسخ مثبت است، این کار چگونه باید انجام بگیرد؛ به‌ویژه در موقعیت‌هایی که پیامدهای بسیار مهم و حساسی دارند.

انتهای پیام