به گزارش ایسنا، یک مادر کانادایی روز پنجشنبه در دادگاه ایالتی کالیفرنیا واقع در سنفرانسیسکو از «اوپنایآی»(OpenAI) و «سم آلتمن»(Sam Altman) مدیرعامل آن شکایت کرد و مدعی شد که چتبات هوش مصنوعی «چتجیپیتی»(ChatGPT) این شرکت، دختر ۲۴ سالهاش «آلیس»(Alice) را به خودکشی تشویق کرده است.
به نقل از ژوریست، «کریستی کریر»(Kristie Carrier) مادر آلیس ادعا کرد که دخترش بارها با چتجیپیتی درباره افکار خودکشی او صحبت کرده، اما گفتوگوها را نشانهگذاری نکرده است. او ادعا میکند که این چتبات با عدم توصیه به آلیس برای درخواست کمک، به خودکشی او منجر شده است. به گفته کریستی، چتجیپیتی به جای توصیه به آلیس برای درخواست کمک، افکار دخترش را تأیید کرده است.
کریستی گفت: دخترم به خاطر محصولی که ناامن و معیوب بود، از دنیا رفته است. پاسخها احساسات او را تأیید میکردند و اساساً به او میگفتند حق دارد احساس یک شخص رهاشده، ترکشده، تنها و بیسرپرست را داشته باشد. هیچ چیز او را به مسیر درست هدایت نمیکرد. هیچ پاسخی نمیگفت که «میتوانی از این شرایط عبور کنی» یا «باید درخواست کمک کنی».
آلیس یک توسعهدهنده وب در مونترآل بود و در ابتدا از چتجیپیتی برای عیبیابی مشکلات فنی استفاده میکرد. بعدها، او رابطه عمیقی با هوش مصنوعی برقرار کرد، اطلاعات شخصی را با آن به اشتراک گذاشت و درباره روشهای بالقوه خودکشی صحبت کرد. پاسخهایی که ادعا شده از سوی چتجیپیتی ارائه شدهاند، شامل موافقت با احساسات او، انتقاد از رفتار نامزدش، موافقت با بیفایده بودن شماره تلفنهای درخواست کمک در مواقع بحرانی و اصرار آلیس به ادامه صحبت با آن هستند.
«درو پوساتری»(Drew Pusateri)، سخنگوی اوپنایآی با بیان این که این شرکت در حال اصلاح مدلهای خود است، اظهار کرد: این یک وضعیت دلخراش است و ما با همه کسانی که تحت تأثیر قرار گرفتهاند، ابراز همدردی میکنیم. ما در حال حاضر در حال بررسی پرونده حقوقی هستیم که نشان میدهد این تعاملات در نسخه پیشین چتجیپیتی رخ دادهاند و این نسخه دیگر در دسترس نیست. اگرچه چتجیپیتی جایگزین مراقبتهای حوزه پزشکی یا سلامت روان نیست، اما ما همچنان با دریافت نظرات متخصصان سلامت روان، نحوه پاسخگویی آن را در موقعیتهای حساس و حاد تقویت کردهایم.
کریستی امیدوار است که دادخواست او به افزایش نظارت بر شرکتهای هوش مصنوعی و آگاهی از خطرات کمک کند.
انتهای پیام
